نموذج تشغيلي لحوكمة الذكاء الاصطناعي في فريق مالي

النموذج التشغيلي لحوكمة الذكاء الاصطناعي هو مجموعة الأدوار وحقوق اتخاذ القرار وبوابات الاعتماد التي تحدّد أيّ أنظمة ذكاء اصطناعي تبلغ مرحلة الإنتاج، ومن يحقّ له تغييرها، وما الدليل المطلوب عند كل خطوة. وبالنسبة لفريق مالي، لا ينجح هذا النموذج إلا حين تكون تلك البوابات مدمجة داخل خط نشر البرمجيات (deployment pipeline) وسجلّ النماذج (model registry)، لا حين تعيش في ميثاق لجنة لا يقرؤه أحد بين نهايات الأرباع.

معظم العروض التقديمية عن الحوكمة تصف لجنة. واللجنة ليست نموذجًا تشغيليًا، بل مكان تُصادَق فيه القرارات بعد أن تكون قد اتُّخذت فعلًا داخل طلب سحب (pull request). والفجوة بين الاثنين هي حيث تكمن المخاطرة الحقيقية: ميزة بدأت كمجرد بحث بسيط (lookup)، ثم نمت في صمت نموذجًا لغويًا في مسار الاسترجاع، وصارت الآن تصوغ نصًّا يستقرّ في مراسلة موجَّهة إلى عميل أو في قيد يومية (journal entry) دون أن يراه أيّ مُحقِّق قط. الحوكمة التي تجتمع شهريًا فقط ستظلّ دائمًا تصف نظامًا أُطلق قبل ثلاثة أسابيع.

الأدوار قبل اللجان

ابدأ بحقوق اتخاذ القرار، لأنّ الدور الذي لا يستطيع أن يقول “لا” هو مجرد زينة. نحن نربط كل نظام ذكاء اصطناعي في العمليات المالية بأربعة أدوار خاضعة للمساءلة، ونجعل كل دور منها شخصًا مُسمّى، لا وظيفة مجرّدة.

• مالك الأعمال. يقبل المخاطر المتبقية للنظام في الإنتاج. يملك موازنة الإيجابيات الكاذبة (false-positive budget) وكلفة الأخطاء التي سيرتكبها النموذج. هذا هو الشخص الذي عليه أن يتعايش مع ما يحدث عند نهاية الربع حين يخطئ النموذج.
• مطوّر النموذج أو حلقة الوصل مع المورّد. يملك عملية البناء، ومجموعات التقييم، ومراقبة الانحراف (drift monitoring)، وسجلّ التغييرات. أما بالنسبة لنظام مُشترى، فيملك هذا الدور أدلّة المورّد والأسئلة التي يعجز المورّد عن الإجابة عنها.
• المُحقِّق المستقل (خط الدفاع الثاني). يراجع النموذج على بيانات لم يلمسها المطوّر قط، ويتحرّى عن الاستشراف المستقبلي (lookahead) وتسرّب البيانات (leakage)، ويمسك بالبوابة الإنتاجية. يرفع تقاريره خارج السلسلة التي بنت النموذج.
• التدقيق الداخلي (خط الدفاع الثالث). يختبر ما إذا كان الخطّان الأولان قد فعلا فعلًا ما تنصّ عليه السياسة، على عيّنة، بأثر رجعي.

الدوران الأخيران هما الثاني والثالث من خطوط الدفاع الثلاثة (three lines of defense)، وكلمة “مستقل” تحمل الجملة كلها. فإن كان مُحقِّقك يرفع تقاريره إلى من تتوقّف مكافأته على إطلاق النموذج، فلديك خطّ دفاع واحد يرتدي ثلاث قبعات. والفشل الكلاسيكي في المجال المالي هو المُحقِّق الذي يوافق على نموذج احتيال مستخدمًا مجموعة اختبار تشترك في العملاء مع مجموعة التدريب، وبالتالي يتسرّب جزء من بيانات التدريب إلى الاختبار دون أن يلحظ أحد. يبدو النموذج ممتازًا حتى يكشف تحليل هويات الكيانات (entity resolution) أنّ نصف فئة الاختبار كان محفوظًا في الذاكرة.

بوابات تعيش داخل خط النشر

البوابة هي نقطة لا يستطيع النظام تجاوزها حتى يوجد دليل محدّد ويوقّع شخص محدّد. ويجب أن يكون الدليل أثرًا مبنيًّا (build artifact) يُنتجه خط النشر، لا شريحة عرض يصنعها شخص. نحن ندمج أربع بوابات لأنظمة الذكاء الاصطناعي المالية.

• بوابة الإدخال. يدخل كل نظام ذكاء اصطناعي في جرد النماذج (model inventory) قبل أن يحصل على أيّ اتصال بالبيانات، فالنظام الذي لا يملك مدخلًا في السجلّ لا يحصل على بيانات اعتماد (credentials). هذا هو أرخص ضابط ستركّبه على الإطلاق، وهو الأكثر تجاهلًا في العادة.
• بوابة البيانات. قبل التدريب أو فهرسة الاسترجاع، تُسجَّل سلالة كل مُدخَل ويُثبَت صحّته عند لحظة القرار (point-in-time correctness). وبالنسبة لنموذج يقيّم المعاملات، يعني هذا إظهار أنّ أيّ خاصية لا تُرمِّز معلومات غير متاحة وقت اتخاذ القرار. الاستشراف المستقبلي هو أشيع خلل نجده على الإطلاق، وهو غير مرئي في دقّة الاختبار الرجعي (backtest accuracy).
• بوابة التحقّق. تقييم مستقل على مجموعة محجوزة (held-out set) مع تسمية أنماط الفشل مسبقًا: ما هي موازنة الإيجابيات الكاذبة، وأين سيُقاس الانحراف، وما تفاوت التسوية (reconciliation tolerance) المسموح مقابل سجلّ النظام المرجعي (system of record). يوقّع المُحقِّق، أو ينتظر النظام.
• البوابة الإنتاجية. لا يُسمح بالمعالجة المباشرة من طرف إلى طرف (straight-through processing) إلا للقرارات التي يكون فيها أثر التدقيق مكتملًا وقد اختُبر مسار التراجع بأن جرى التراجع فعليًّا عن شيء ما. وكل ما عدا ذلك يُوجَّه إلى طابور بشري مرفقًا بتعليل النموذج.

الغاية من وضع البوابات داخل خط النشر هي أن تتوقّف عن كونها قابلة للتفاوض. فالسجلّ الذي هو جدول بيانات (spreadsheet) يُحرَّر بأثر رجعي. أما السجلّ الذي يصدر بيانات الاعتماد التي تحتاجها أيّ مهمّة لقراءة بيانات الإنتاج، فلا يستطيع أحد أن يلتفّ عليه وهو مستعجل قبل نهاية الربع.

التغيير هو الحدث الذي يهمّ

النسخة التي اجتازت التحقّق نادرًا ما تكون هي النسخة العاملة بعد ستة أشهر. فقد بدّل أحدهم نموذج التضمين (embedding model)، أو وسّع نافذة الاسترجاع، أو عدّل مطالبة (prompt)، أو دفع المورّد تحديثًا. وكلٌّ من هذه التغييرات يبدّل سلوك النظام، وفي نموذج حوكمة لا ينظر إلا إلى الموافقة الأولى، يكون كلٌّ منها غير مرئي.

لذلك نتعامل مع التغيير بوصفه الحدث المحكوم الأساسي، لا مع النشر. فتعديل المطالبة تغييرٌ في النموذج. ووثيقة جديدة في مجموعة الاسترجاع تغييرٌ في البيانات. وارتقاء إصدار المورّد تغييرٌ لم تصنعه أنت لكنّك تملكه الآن. ويحصل كلٌّ منها على مدخل في السجلّ، وفرق (diff)، وقاعدة تحدّد قدر إعادة التحقّق الذي يستوجبه. التغييرات الصغيرة تحصل على فحص مراقبة. أما التغييرات التي تحرّك حدّ القرار فتعود عبر بوابة التحقّق. ويجب أن يحمل السجلّ السلالة التي تجعل هذا قابلًا للحسم، ولهذا فإنّ الجرد والنموذج التشغيلي هما المشروع نفسه يحمل اسمَين.

لا شيء من هذا يستلزم خط دفاع ثانيًا ضخمًا. إنما يستلزم أن يكون توقيع المُحقِّق شرطًا مسبقًا يفرضه خط النشر، وأن يكون كل نظام ذكاء اصطناعي مدرجًا في الجرد قبل أن يملك أيّ اتصال بالبيانات، وأن يُسجَّل تعديل المطالبة بالجدّية نفسها التي يُسجَّل بها تغيير في معامل. لتستمرّ اللجنة في الاجتماع؛ فما يجعل قراراتها نافذة هو التمديدات التي تحتها: السجلّ الذي يصدر بيانات الاعتماد، والبوابات التي تحجب أيّ مهمّة بلا توقيع، وسجلّ التغييرات الذي يمسك بالنسخة التي نسي الجميع إعادة التحقّق منها.