الذكاء الاصطناعي الظِّلّي: كيف تحوكم الأدوات التي يستخدمها موظفوك بالفعل

الذكاء الاصطناعي الظِّلّي هو مجموعة أدوات الذكاء الاصطناعي التي يستخدمها موظفوك بالفعل دون موافقة، أو تسجيل للأنشطة، أو عقد يحوكم ما يحدث للبيانات التي يكتبونها فيها. لا يمكنك التخلّص منه بالحظر: الطلب حقيقي والأدوات على بُعد تبويب متصفّح واحد. الحلّ هو مسار معتمد يتفوّق على المسار الظِّلّي في سهولة الاستخدام، تدعمه سياسة مكتوبة وسجلات ترصد المخالفات.

انطلق من مصارحة نفسك. إذا كانت لدى شركتك عمالة معرفية واتصال بالإنترنت، فإن الناس يلصقون بيانات الشركة في روبوتات المحادثة في هذه اللحظة. يُلخّص محلل مكالمة أرباح ليلحق بموعد نهائي. يسأل أحد موظفي العمليات نموذجاً عن سبب اختلاف جدولَي بيانات. الإنتاجية حقيقية، وهذا بالضبط سبب فشل المنع. القاعدة التي تجعل سير العمل المعتمد أبطأ من غير المعتمد تخسر في كل مرة، وتخسر بصمت، على أجهزة شخصية لا رؤية لك عليها.

أين تتسرّب البيانات فعلاً

نادراً ما يكون التسرّب في مخرجات النموذج. إنه في المدخلات. حين يلصق موظف سياقاً في طلب (prompt)، يمكن الاحتفاظ بذلك النص، أو تسجيله، أو تغذيته لإصدار مستقبلي من النموذج بحسب شروط المزوّد. والأشياء المحدّدة التي تتسرّب في قطاع التمويل يمكن التنبؤ بها:

• معرّفات العملاء وأرقام الحسابات المُدرَجة في طلب بهدف “تنظيف هذه القائمة”
• أرقام مالية غير مُعلَنة تُلصَق أثناء صياغة مذكّرة قبل أن تصبح الأرقام علنية
• مقتطفات التسويات وموازين المراجعة التي تُشارَك للسؤال عن سبب اختلاف مصدرين
• شيفرة مصدرية تحتوي على سلاسل اتصال (connection strings)، أو مفاتيح واجهات برمجية (API keys)، أو أسماء مخططات داخلية
• مسودات الإفصاحات، ومواد مجلس الإدارة، ووثائق الصفقات المستخدمة كسياق للكتابة

المعلومات الجوهرية غير المتاحة للعموم (material non-public information) هي الحدّ الأخطر. إذا لصق محلل أرقام نهاية ربع سنة قبل نشرها في روبوت محادثة استهلاكي، فأنت أمام إخفاق في معالجة البيانات، وربما مشكلة تتعلق بقانون الأوراق المالية، في ضربة مفتاح واحدة. لم يكن الموظف يتصرّف بسوء نية، بل كان يسعى للكفاءة بأداة لم تعطه أي إشارة عن الوجهة التي يذهب إليها النص.

نمط الإخفاق الثاني أهدأ: قرارات تُتّخذ بناءً على مخرجات لا يستطيع أحد تتبّعها. يطلب أحدهم من نموذج تلخيص حزمة تعهّدات ائتمانية، فيلصق الملخّص في مذكّرة ائتمان، وقد أسقط النموذج بصمت استثناءً محدّداً. لا يوجد أثر يعود إلى المستند المصدر، ولا سجلّ يدلّ على أن نموذجاً لمس القرار من الأساس. وحين يسأل مفتّش لاحقاً كيف اشتُقّ رقم معيّن، تكون الإجابة نافذة محادثة لم تعد موجودة.

اكتب سياسة تُسمّي السلوكيات، لا “الانطباعات”

معظم سياسات الاستخدام المقبول عديمة الجدوى لأنها مجرّدة. عبارة “استخدم الذكاء الاصطناعي بمسؤولية” لا تخبر أحداً بما يفعله ظهيرة يوم ثلاثاء. السياسة التي تُغيّر السلوك تصنّف البيانات والمهام إلى مستويات وتنصّ على القاعدة الخاصة بكلّ منها.

• صنّف البيانات. المحتوى التسويقي العام، والنصوص الداخلية غير الحساسة، وبيانات العملاء السرّية، والمعلومات المنظَّمة أو الجوهرية غير المتاحة للعموم، لكلٍّ منها قاعدة مختلفة. المستوى الأعلى يذهب فقط إلى نقاط وصول معتمدة عبر اتفاقية معالجة بيانات (data processing agreement) موقّعة، أو لا يذهب إلى أي مكان.
• صنّف المهمة. الصياغة والعصف الذهني منخفضة المخاطر. أما أي مهمة تُغذّي مخرجاتها قراراً يخصّ عميلاً، أو إفصاحاً، أو ضابطاً رقابياً، فتتطلّب مراجعة بشرية إلزامية وسجلّاً لما أنتجه النموذج.
• سمِّ الأدوات المعتمدة بالمنتج والمستوى. عبارة “مساعد ذكاء اصطناعي مؤسسي” غير قابلة للتنفيذ. أما “الأداة X على الخطة المؤسسية للمستويات من 1 إلى 3، ولا تُستخدم أبداً للمستوى 4” فهي كذلك.
• انصّ على شروط الاحتفاظ بالبيانات بلغة واضحة كي يفهم الموظفون لماذا تكون الأداة المعتمدة أكثر أماناً. عدم الاحتفاظ بالبيانات (zero data retention) وعدم التدريب على مدخلاتك هما البندان اللذان لهما أهمية.
• اشترط الإسناد حين تصل مخرجات النموذج إلى مُخرَج نهائي سيعتمد عليه أحدهم، كي يربط أثر التدقيق المخرجات بالشخص الذي قبِلها.

اجعلها في صفحتين. السياسة التي لا يقرؤها أحد لا تحكم شيئاً. اقرنها بتدريب الإلمام بالذكاء الاصطناعي (AI literacy) الذي تتوقّع المادة الرابعة من قانون الذكاء الاصطناعي الأوروبي (EU AI Act) من الجهات الناشرة تقديمه، واحتفظ بسجلّ لمن أكمله.

ضوابط ترصد ما تُفلته السياسة

السياسة تضع التوقّعات. الضوابط تخبرك متى يجري تجاهل تلك التوقّعات، وتؤدّي العمل الذي يعجز عنه مبدأ الثقة على الشرف.

امنح الناس نقطة وصول معتمدة أولاً. بوابة ذكاء اصطناعي مؤسسية (enterprise AI gateway) مع اتفاقية عدم احتفاظ بالبيانات (zero-retention)، موجَّهة عبر مزوّد الهوية (identity provider) لديك، هي الضابط الأكثر فاعلية على الإطلاق، لأنها تُلغي سبب اللجوء إلى الأداة الظِّلّية. اجعلها سريعة واجعلها الخيار الافتراضي داخل الأدوات التي يفتحها الموظفون أصلاً.

ثم ضع طبقة تنقيح (redaction) أمام تلك البوابة. تمريرة منع فقدان البيانات (data-loss-prevention) التي تكتشف أرقام الحسابات، والهويات الوطنية، وأسماء كيانات العملاء المعروفة قبل أن يغادر الطلب محيطك، تحوّل خرقاً محتملاً إلى حقل محجوب. اضبطها على مجموعة تقييم حقيقية (eval set) من الطلبات التي يكتبها موظفوك فعلاً، وحدّد لها ميزانية للنتائج الإيجابية الكاذبة (false-positive budget). أداة التنقيح التي تُشوّه كل طلب مشروع سيُطفئها الأشخاص أنفسهم الذين وُضعت لحمايتهم. تساعد هنا مطابقة الكيانات (entity resolution) مع سجلّ عملائك الرئيسي، كي يلتقط المرشّح عبارة “Acme Holdings” وليس رقم الحساب الخام وحده.

سجّل المسار المعتمد وراقب ما عداه. تسجيل حركة الخروج (egress logging) على البوابة المعتمدة يمنحك أثر التدقيق. وقياس حركة الشبكة (network telemetry) نحو نطاقات الذكاء الاصطناعي الاستهلاكية المعروفة يخبرك أين يتركّز الاستخدام الظِّلّي، وهو إشارة إلى تحسين سير العمل المعتمد لا قائمة بأشخاص تُتّخذ بحقّهم إجراءات تأديبية. راقب تلك الحركة بحثاً عن انحراف؛ فارتفاعها المفاجئ بعد إطلاق ميزة استهلاكية جديدة يعني أن أداتك المعتمدة قد تخلّفت للتو.

راجع المستوى الأعلى خطورة يدوياً لفترة. قبل أن تثق بأي ضابط على مسار المعلومات الجوهرية غير المتاحة للعموم أو البيانات المنظَّمة، خذ عيّنة من الطلبات والمخرجات الفعلية واقرأها. هكذا تتعلّم ما تُفلته أداة التنقيح لديك، وأين رُسمت خطوط مستويات السياسة في المكان الخطأ. الضوابط التي تصمد أمام الاحتكاك بالاستخدام الحقيقي هي تلك التي بنيتها اعتماداً على سجلات حقيقية، لا تلك التي رسمتها على لوح أبيض.

لا شيء من هذا يُنهي الذكاء الاصطناعي الظِّلّي. لكنه يحوّله من خطر خفيّ إلى خطر محوكَم، حيث تكون للبيانات التي يتعامل معها الموظفون قاعدة مرفقة، وتكون الأداة المعتمدة مسار المقاومة الأقل، وتظهر الاستثناءات في سجلّ يمكنك فعلاً قراءته.