تخطّ إلى المحتوى
كل الرؤى حوكمة الذكاء الاصطناعي والامتثال في القطاع المالي

إذا كان نموذجك الائتماني عاجزاً عن تفسير قرار الرفض، فلا يحق لك استخدامه لإصدار ذلك الرفض

تُلزم اللائحة B الصادرة بموجب قانون ECOA بذكر أسباب محددة خلال 30 يوماً من رفض طلب الائتمان. وهذا ما يفرضه ذلك على النموذج الذي اتخذ القرار نفسه، لا على الأوراق المحيطة به.

3 دقائق قراءة #الحوكمة#الإقراض العادل#الائتمان
متخصصون في القطاع المالي يعملون على مبادرة للذكاء الاصطناعي

عندما يرفض جهة مُقرِضة أحد الطلبات، يُلزم قانون ECOA، عبر اللائحة B المنصوص عليها في 12 CFR 1002.9، بإصدار إشعار إجراء سلبي خلال 30 يوماً. ويجب أن يذكر هذا الإشعار الأسباب الجوهرية المحددة التي قادت إلى القرار، بحد أقصى أربعة منها. لا فئة عامة، ولا عبارة «لم يستوفِ معاييرنا»، بل العوامل الفعلية التي رجَّحت كفة هذه النتيجة لهذا المتقدم بالذات.

تتعامل أغلب الفرق مع هذا الأمر بوصفه مهمة امتثال تأتي بعد النموذج. وهو ليس كذلك، بل هو قيد على ما يُسمح للنموذج أن يكونه. فقد أوضحت CFPB أن الجهة المُقرِضة لا يمكنها التذرّع بعدم الامتثال بدعوى أن تقنيتها أعقد أو أكثر غموضاً من أن تُحدِّد أسباباً بعينها. واقرأ ذلك على نحوٍ مباشر: النموذج الذي يبلغ من الغموض حداً يعجز معه عن تفسير الرفض لا يصلح لإصدار ذلك الرفض. فمتطلب التفسير ليس لاحقاً لقرار النمذجة، بل هو كامنٌ في صميمه.

رموز الأسباب مرتبطة بالنموذج، لا مُختلَقة بعده

نمط الفشل الذي نراه هو نموذج مُدرَّب لأجل الدقة دون أي اعتبار للتفسير، ثم يُلصق به نظام ثانٍ ليُنتج الأسباب اللازمة للإشعار. هذا النظام الثاني يحكي قصة عن سبب رفض المتقدم. والقصة تبدو معقولة. لكن المشكلة أن لا شيء يضمن مطابقتها لما سجّله النموذج فعلياً.

يجب أن تعكس رموز الأسباب العوامل التي وزنها النموذج حقاً لهذا المتقدم. فإن استند النموذج إلى إشارة بعينها وأورد الإشعار إشارة مغايرة، فإن رمز السبب خاطئ ولو بدا مقنعاً في صياغته. ويصعب اكتشاف هذه الفجوة بالعين المجردة لسبب جوهري، وهو أن التفسير اللاحق مُصمَّم ليكون سهل القراءة. ومن ثَمّ يتلخص العمل في:

  • توليد رموز الأسباب من النموذج الذي اتخذ القرار نفسه، بالاعتماد على إسناد يقدر النموذج على دعمه، لا على طبقة سردية منفصلة تخمّن سلوكه
  • تغطية عوامل البيانات البديلة، لأن اللائحة B تشمل كل ما سجّله النموذج فعلياً؛ فإشارات التدفق النقدي، وسجلات الاتصالات أو المرافق، وما شابهها، جميعها يجب أن تظهر كأسباب متى ما رجَّحت النتيجة
  • اختبار دقة الرموز، على حالات محجوزة تعرف فيها أي العوامل حرّك الدرجة، تماماً كما تبني مجموعة تقييم لأي ادعاء آخر يطرحه النظام
  • الحفاظ على مسار التدقيق، بحيث يمكنك لأي قرار رفض إعادة بناء المدخلات والدرجة والأسباب الأربعة التي أُرسلت

النقطة الثالثة هي ما تتخطاه الفرق. فمولِّد رموز الأسباب مُخرَجٌ من مخرجات النموذج شأنه شأن غيره، والمُخرَج غير المُختبَر مجرد تخمين. أنت بحاجة إلى حالات يمكنك فيها مطابقة الأسباب المذكورة بالعوامل التي غيّرت القرار فعلاً، وإلى رقم يخبرك عن مدى توافقهما.

صمِّم لأجل قابلية التفسير قبل اختيار النموذج

أرخص وقت لاستيفاء هذا المطلب هو لحظة اختيار النموذج. فالنموذج الذي يمكنك أن تنسب قرارات رفضه إلى عوامل مُسجَّلة محددة هو نموذج صالح للاستخدام في الإقراض. أما الذي يتعذر عليك إسناده فهو نموذج ستضطر إلى التراجع عنه لاحقاً، بعد أن يكون قد أرسل إشعارات لا قِبَل لك بالدفاع عنها. وهذا الترتيب مهم، لأن البديل هو أن تكتشف، في بيئة الإنتاج، أن أدق نماذجك هو نموذج غير مسموح لك بنشره للقرار الذي بُني أصلاً لاتخاذه.

ويجب أن تكون قابلية التفسير هنا كافية بموجب كلٍّ من ECOA وFCRA. فقانون FCRA يحمل واجبات إفصاح خاصة به متى استند القرار الائتماني إلى تقرير ائتماني للمستهلك، ومخطط رموز أسباب يستوفي قانوناً واحداً لا يستوفي الآخر تلقائياً. ونحن نتعامل مع الاثنين بوصفهما مدخلين تصميميين منذ البداية، لا قيدين يُكتشفان عند المراجعة.

من الناحية الهندسية، ليس في هذا كله ما هو غريب. فهو الانضباط نفسه الذي تتطلبه صحة البيانات عند نقطة زمنية بعينها (point-in-time correctness) أو تتبع نَسَب البيانات (data lineage): أن تقرر سلفاً ما يجب على النظام القدرة على إثباته، ثم تبني بما يحقق ذلك. وبالنسبة لنموذج ائتماني، يعني «الإثبات» أنه لأي قرار رفض: هذه هي العوامل المحددة التي قادته، وهذا هو الدليل على أنها العوامل الحقيقية لا بديل مقنع لها، وهذا هو المسار من المدخل إلى الإشعار.

هذا المعيار يستبعد بعض النماذج. فالنموذج الذي يتعذر عليك استجوابه على مستوى قرار رفض فردي هو نموذج لا يستطيع تلبية متطلب إشعار الإجراء السلبي، ومن ثَمّ لا يصلح لإصدار ذلك الرفض. والأفضل أن تتبيّن ذلك أثناء الاختيار لا بعد أن تكون الإشعارات قد أُرسلت.

هذا تحليل عام للقطاع، وليس استشارة قانونية. أما الالتزامات المحددة لأي برنامج إقراض فينبغي التحقق منها مع مستشار قانوني مؤهل.

قراءات ذات صلة

#الحوكمة

كيف تختبر فعليًا نموذج ائتمان أو تسعير من حيث العدالة

حذف سمة محمية لا يجعل النموذج عادلًا. إليك كيف نختبر نماذج الائتمان والتسعير بحثًا عن الأثر التمييزي والتمييز بالوكالة، وكيف نحتفظ بالأدلة.

#الحوكمة

أساليب التفسير التي تصمد أمام مراجعة التحقق من النماذج

معظم أعمال التفسير تُرضي عالِم البيانات الذي بنى النموذج ولا تُرضي أحدًا سواه. وفي ما يلي كيف نجعلها تصمد أمام المُحقِّق، والجهة التنظيمية، والعميل الذي رُفض طلبه.

#الحوكمة

إجراء تحليلات ما بعد الحوادث لنماذج الذكاء الاصطناعي في القطاع المالي

حادثة نموذج بلا تحليل لاحق هي حادثة ستتكرّر لا محالة. إليك عملية التحليل اللاحق الخالية من إلقاء اللوم التي نتّبعها عند إخفاقات الذكاء الاصطناعي في القطاع المالي.

#الحوكمة

واجب العناية بالمستهلك (Consumer Duty) والذكاء الاصطناعي في الخدمات المالية البريطانية

يعيد واجب العناية بالمستهلك (Consumer Duty) الصادر عن هيئة السلوك المالي (FCA) تشكيل ما يجب أن يكون القرار المدفوع بالذكاء الاصطناعي قادرًا على إثباته. إليك كيف نهندس أنظمتنا من أجل نتائج جيدة وقيمة عادلة.

تعمل على شيء مشابه؟

أخبِرنا عن بياناتك وسير العمل المحيط بها، وسنعطيك رأياً صريحاً.

احجز مكالمة تعريفية مدتها 30 دقيقة