تمتلك إدارة مخاطر النماذج مفرداتٍ راسخةً مستقرة. فقد أرست SR 11-7، وهي التوجيهات الرقابية الصادرة عام 2011 عن Federal Reserve وOCC، هذا المجال على أربع ركائز: التحقق، والتوثيق، والحوكمة، والمراقبة المستمرة. وبالنسبة لانحدار لوجستي يُقيّم طلبات الائتمان، تكون هذه الركائز مفهومةً جيداً؛ إذ يمكنك تدوين المدخلات، وإعادة اشتقاق المخرجات يدوياً، واستخلاص السبب الدقيق وراء صدور القرار على النحو الذي صدر به.
لكن نموذجاً لغوياً كبيراً (LLM) يستخرج الأرقام من الإفصاحات المالية لا يسلك هذا السلوك. وقد انتبه المراقبون إلى ذلك. والملاحظة الشائعة اليوم هي وجود فجوة في الحوكمة: فقد طرحت المؤسسات نماذج التعلّم الآلي (ML) بوتيرة أسرع من تكيّف أطر إدارة مخاطر النماذج (MRM) لديها، حتى صار سجل النماذج يضم بنوداً لم تُصمَّم عملية التحقق أصلاً لاختبارها.
وفي أبريل 2026، أصدرت Federal Reserve وOCC وFDIC بصورة مشتركة SR 26-2، التي تحلّ محل SR 11-7. وهي تُحدّث إدارة مخاطر النماذج حول مفهوم الجوهرية، بحيث يتناسب عُمق الإشراف مع المخاطر الفعلية للنموذج، وتتخلى عن التوقّع الشامل بإعادة التحقق سنوياً. غير أن ما تمتنع عمداً عن فعله هو أن تُرشدك إلى كيفية التحقق من نموذج توليدي: فـ SR 26-2 تستثني الذكاء الاصطناعي التوليدي والوكيلي من نطاقها، واصفةً هذه التقنية بأنها أحدث وأسرع تطوّراً من أن يُحكَم ضبطها. ومن ثَمّ تظل الركائز الأربع قائمة، ويغدو الإطار المحيط بها أحدث عهداً، أما الحالة الأصعب، أي النموذج اللغوي الكبير نفسه، فتبقى متروكةً لتقديرك. وهذه هي الفجوة التي تتناولها هذه المذكرة.
هذه مذكرة منهجية، لا استشارة قانونية. وفيما يلي ما يتغير فعلياً في صميم العمل.
التحقق من نظام لن يمنحك الإجابة نفسها مرتين
يستند التحقق التقليدي من النماذج إلى قابلية إعادة الإنتاج: شغّل المدخل ذاته، فتحصل على المخرج ذاته، ثم قارنه بمعيار مرجعي مستقل. غير أن النظام غير الحتمي يهدم هذا الافتراض من الخطوة الأولى. فدرجة الحرارة (temperature)، وأسلوب أخذ العينات (sampling)، والتحديث الصامت الذي يُجريه المورّد على نموذجه، كلها تعني أن مخرجات اليوم قد لا تطابق مخرجات الأمس.
ومن ثم ينتقل التحقق من فحص إجابة واحدة إلى توصيف توزيع كامل من الإجابات. فنحن نُثبّت مجموعة تقييم محددة، ونُشغّلها مراراً، ونقيس مدى استقرار المخرجات، لا مجرّد ما إذا كانت إحدى عمليات التشغيل بدت صحيحة. وفي مهمة استخراج، يعني ذلك التقييم في مواجهة حقيقة مرجعية مُصنّفة يدوياً عند ظروف نهاية الربع، مع تسمية أنماط الإخفاق صراحةً: بنود مُختلَقة (هلوسة)، وأرقام مُبدَّلة المواضع، وانتقاء الفترة المالية الخاطئة من مستند يحوي عدة فترات. إن عملية تشغيل ناجحة واحدة لا تكاد تخبرك بشيء. فالتباين عبر عمليات التشغيل هو ما يجري التحقق منه.
على التوثيق أن يبلغ البيانات والمُوجِّه (prompt)
كان التوثيق في SR 11-7 يدور حول منطق النموذج وفرضياته. أما مع التعلّم الآلي، فينتقل السطح الحساس إلى الخارج، نحو البيانات ونحو التعليمات.
ثمة مُخرَجان نادراً ما طلبتهما قوالب إدارة مخاطر النماذج الأقدم:
- تتبّع نسب البيانات (data lineage) لمجموعة بيانات التدريب والاسترجاع: من أين جاء كل مستند، ومتى كان سارياً، وما إذا كانت الصحة عند نقطة زمنية محددة قد تحققت بحيث لم يُعرَّض النموذج أبداً لمعلوماتٍ لاحقةٍ لتاريخ القرار
- المُوجِّهات (prompts) وإعدادات الاسترجاع مُدارةً بإصدارات، تُعامَل بوصفها مدخلاتٍ للنموذج، لأن تغيير المُوجِّه يُغيّر سلوك النموذج بقدر ما يفعل تغيير أحد المعاملات تماماً، ومسار تدقيق يُغفِله لا يقدر على إعادة بناء قرار ماضٍ
فإن عجزت عن الإجابة عن سؤال «ما الذي أنتج هذا المخرج تحديداً في مارس الماضي؟»، فإن ركيزة التوثيق لم تتحقق، أياً كان ما تقوله بطاقة النموذج (model card).
مراقبة الانحراف، والمورّد الذي لا يمكنك النظر داخله
اعتادت المراقبة المستمرة أن ترصد توزيعات المدخلات والأداء في مواجهة النتائج المتحققة. وهذا ما يزال سارياً. فالانحراف في المجتمع الأساسي للبيانات يظهر بالطريقة نفسها التي ظهر بها دائماً. أما الجديد فهو أن النموذج نفسه قد ينحرف من تحتك حين يستضيفه مورّد يحتفظ بحق تحديث الأوزان دون إشعار.
ونحن نتعامل مع ذلك بوصفه واقعاً تشغيلياً يُقاس ويُرصَد، لا أمراً يُجادَل فيه. فثمة مجموعة تقييم دائمة تعمل وفق جدول زمني في مواجهة نقطة النهاية الحيّة، بحيث يَظهر أي تراجع ناجم عن تغيير من جانب المزوّد على هيئة رقم، لا على هيئة تذكرة دعم بعد أسابيع. وحيث يكون نموذج المورّد غامضاً بحق، ينتقل جهد التحقق إلى الحدود الفاصلة: أجهِد المدخلات، وحُدّ من نطاق المخرجات، وطابِقها مع مصدر مستقل لم يره النموذج قط. أنت هنا تتحقق من الغلاف ومن الضوابط المحيطة بالصندوق الأسود، ما دام الصندوق نفسه لن يُفتَح.
لا شيء من هذا يحلّ محلّ ركائز SR 11-7؛ بل يمدّها لتشمل أنظمةً احتماليةً، خارجيةً جزئياً، ومتغيّرةً تحت ضغط الإنتاج. والفِرق التي تتعثّر هي تلك التي ما تزال تتحقق من نماذج التعلّم الآلي كأنها جداول بيانات. فابدأ بتدوين ما تفترضه عمليتك الحالية بشأن الحتمية، ثم اختبر كل افتراض في مواجهة النموذج الذي تُشغّله فعلاً.