تصميم الإشراف البشري على أنظمة الذكاء الاصطناعي عالية المخاطر

الإشراف البشري الفعّال في إطار قانون الذكاء الاصطناعي الأوروبي (EU AI Act) يعني أن شخصاً محدّداً بالاسم يستطيع فهم مُخرَج معيّن من مخرجات الذكاء الاصطناعي، ويملك الصلاحية والوقت لتجاوزه، ويترك أثراً للتدقيق (audit trail) حين يفعل. تطلب المادة 14 إشرافاً متناسباً مع مخاطر النظام، لا توقيعاً على كل حالة. والمراجِع الذي لا يستطيع قراءة الأدلة في الوقت المخصّص ليس إشرافاً، بل هو زمن انتظار (latency) يحمل مسمّى وظيفياً.

معظم حالات الإشراف تفشل بصمت. تكون الضابطة موجودة على الورق، ويُضغط زرّ الموافقة، ولا يلاحظ أحد أن من يضغطه يعالج أربعمئة حالة في المناوبة الواحدة ويستحيل عليه فعلياً فحص أيٍّ منها. وحين ينزاح النموذج (drift)، ينزاح الختم الشكلي معه. لذا فمشكلة التصميم ليست في ما إذا كان علينا وضع إنسان في المسار (human in the loop)، بل السؤال هو كيف نبني نقطة مراجعة يستطيع إنسان حقيقي أن يمارسها على عبء عمل حقيقي، وكيف نثبت بعد ذلك أنه فعل.

حدِّد ما الذي يفحصه الإنسان فعلاً

الخطأ الأول هو أن تطلب من المراجِع الموافقة على «القرار». القرار خلاصة، ولا يمكنك تفحّص خلاصة. كل ما يمكنك تفحّصه هو الأدلة والاستدلال الذي أنتجها، ومعظم أنظمة الذكاء الاصطناعي لا تمنح المراجِع أياً منهما.

قبل أن نصمّم شاشة مراجعة، نكتب على الورق الإخفاق المحدّد الذي وُجد الإنسان لالتقاطه. في تنبيه مراقبة المعاملات (transaction monitoring)، قد يكون إيجابية كاذبة سبّبها سجلّ طرف مقابل قديم غير محدّث. وفي مذكّرة ائتمانية، قد يكون رقماً استخرجه النموذج من فترة تقرير خاطئة. كلٌّ من هذه ادّعاء ملموس قابل للفحص، وكلٌّ منها يستلزم أدلة مختلفة على الشاشة.

• الصفوف المصدرية الدقيقة خلف كل رقم، مع تتبّع نسبها (lineage) رجوعاً إلى نظام السجل المرجعي (system of record)، حتى يتمكّن المراجِع من تأكيد صحّتها في لحظة زمنية بعينها بدل الثقة بمجموع معروض.
• ثقة النموذج (confidence)، وحيث تسمح البنية بذلك، الخصائص (features) التي حرّكت الدرجة، حتى يرى المراجِع متى يتعلّق القرار بإشارة واحدة واهية.
• الحالات التي اعتبرها النموذج مشابهة وكيف حُسمت، ما يحوّل حكماً مجرّداً إلى مقارنة يستطيع المراجِع أن يستدلّ عليها.
• علامة واضحة على ما لم يفحصه النموذج، حتى لا يفترض أحد تغطية غير موجودة.

إذا اضطرّ المراجِع إلى فتح ثلاثة أنظمة أخرى للتحقّق من المُخرَج، فسيتوقّف عن التحقّق مع حلول يوم الخميس. ضَع الأدلة حيث يُتّخذ القرار، أو اقبل أن المراجعة مجرّد مسرحية.

طابِق جهد المراجعة مع المخاطر الفعلية

الإشراف الموحّد وسيلة إلى انعدام الإشراف. إذا حظيت كل حالة بالنظرة العابرة نفسها ذات الثلاثين ثانية، فالحالات الصعبة تنال ثلاثين ثانية والحالات التافهة تهدرها. تعامَل مع لغة التناسب في قانون الذكاء الاصطناعي بوصفها تعليمة، لا ثغرة: أنفِق انتباه البشر الشحيح حيث يكلّف الجواب الخاطئ أكثر ما يكلّف.

نحن نُدرّج المسار على طبقات. الحالات منخفضة المخاطر حيث يكون النموذج واثقاً والخسارة المحتملة ضئيلة تمرّ مباشرة (straight-through)، مع سحب عيّنة عشوائية للمراجعة كي يبقى المجتمع الكلّي قابلاً للرصد. أما النطاق الأوسط، حيث تكون الثقة متوسطة أو حيث يتجاوز المبلغ عتبة معيّنة، فيذهب إلى مراجِع مع أدلة كاملة. والنطاق الأعلى، عالي القيمة أو عالي الغموض، يذهب إلى مراجِع ثانٍ أو مُعتمِد مُسمّى بالاسم يملك صلاحية التصعيد.

نقطتان في التصميم أهمّ هنا من التدريج نفسه.

• قاعدة التوجيه (routing) جزء من النموذج، ما يعني أنها خاضعة لمجموعة التقييم (eval set) نفسها، ولرصد الانزياح (drift monitoring) نفسه، ولأثر التدقيق نفسه. والعتبة التي تنزلق بهدوء بحيث يُوجَّه المزيد من الحالات إلى المعالجة المباشرة إخفاقٌ في الحوكمة، حتى لو كان كل قرار فردي صحيحاً.
• حدّ تحمّل الإيجابيات الكاذبة (false-positive budget) هو ما يحدّد الطبقات، لا العكس. إذا كان فريق عملياتك يستوعب مئتَي مراجعة يومياً، فالعتبة التي تولّد ستمئة ليست متحفّظة. إنها تضمن أن يتوقّف المراجعون عن القراءة، وعندها تنال حالاتك عالية المخاطر النظرة الفارغة نفسها التي ينالها كل شيء آخر.

يجب أن يكون التصعيد أرخص من الإذعان. إذا كان تجاوز النموذج يعني استمارة وحقل تبرير وتوقيع مشرف، بينما قبوله يعني نقرة واحدة، فقد هندست الموافقة هندسةً. اجعل المخالفة طريق المقاومة الأدنى لكل ما يبدو خاطئاً.

ابنِ الأثر أثناء العمل، لا بعده

الإشراف الذي لا تستطيع إعادة بنائه لم يحدث، من وجهة نظر مدقّق أو جهة تنظيمية. الأثر ليس تقريراً تولّده في نهاية الربع، بل هو إما ناتج جانبي للمراجعة يُلتقط في لحظة القرار، أو محض خيال يُجمَع لاحقاً من الذاكرة.

لكل حالة مُراجَعة نحفظ نسخة النموذج (model version) ومقاييس مجموعة التقييم التي أُطلقت معها، والأدلة الدقيقة المعروضة على الشاشة، وهوية المراجِع، والوقت الذي أمضاه، وقراره، وسبب تجاوزه حين يخالف. ويجب أن يصمد هذا السجلّ أمام إعادة تشغيل المسار (pipeline). فإذا أنتجت تسويةُ الحالة نفسها غداً أدلةً مختلفة لأن مخزن الخصائص (feature store) عبّأ بيانات بأثر رجعي، أو لأن مهمّة استبانة الكيانات (entity resolution) دمجت سجلَّين، فلا قيمة لأثر التدقيق. أرشِف نسخاً من المدخلات، لا من الكود وحده.

ثم اقرأ الأثر، فهو أفضل كاشف لديك للانزياح. من الإشارات التي نراقبها:

• معدل التجاوز (override rate) بحسب المراجِع وبحسب الشريحة. المعدل القريب من الصفر يعني أن البشر يوافقون على كل شيء، وهو ما يعني غالباً أنهم لا ينظرون. والمعدل الذي يرتفع في شريحة واحدة كثيراً ما يعني أن النموذج ينزاح فيها قبل أن تلتقطه مقاييسك خارج الخط (offline).
• الوقت المستغرق في المهمة مقابل ما تتطلّبه الحالة من أدلة. حين تهبط أزمنة البتّ دون الحدّ الأدنى اللازم لقراءة الشاشة، تكون الضابطة قد تدهورت مهما قالت السياسة.
• الفجوة بين الحالات المباشرة المأخوذ منها عيّنات والحالات المُراجَعة. إذا كان أداء النموذج أسوأ على المجتمع الذي لا ينظر إليه أحد، فقد رفعت عتبة الأتمتة أعلى مما ينبغي.

لا شيء من هذا غريب. إنه الانضباط نفسه الذي تطبّقه أصلاً على نموذج في الإنتاج: تتبّع النسب، ومدخلات مؤرشفة بنُسخ، ومجموعة تقييم، ورصدٌ يراقب الشيء في البرّية لا الشيء في دفتر التجارب (notebook). الإشراف البشري مكوّن آخر في تلك المنظومة. جهّزه بأدوات القياس، وإلا فأنت تثق بضابطة لم تختبرها قط.