المكان الذي يعمل فيه النموذج يُحدّد مَن يمكنه رؤية البيانات، وأيّ جهة تنظيمية لها حقّ عليها، وما الذي ستُثبته في التدقيق. بالنسبة لمعظم أحمال العمل، الجواب هو واجهة API عامة بشروط عدم الاحتفاظ بالبيانات ومنطقة مثبّتة. استخدم النشر عبر VPC عندما لا يُمكن للبيانات مغادرة مستأجرك، واللجوء إلى أوزان مفتوحة مستضافة ذاتيًا فقط حين تفرض ذلك الإقامة أو زمن الاستجابة (latency). الفروق التقنية أصغر من الفروق التعاقدية.
هذه النقطة الأخيرة تُربك كثيرًا من الفرق. المهندسون يقارنون عدد الرموز (tokens) في الثانية ونوافذ السياق (context windows). أما وظيفة الامتثال فتقارن تدفّقات البيانات والمعالِجين الفرعيين والبلد الذي يصل إليه الطلب في نهاية المطاف. كلاهما ينظر إلى الخيارات الثلاثة نفسها، لكنهما يرتّبانها بشكل مختلف. مهمة أيّ بنية للذكاء الاصطناعي هي جعل خيار واحد قابلاً للدفاع عنه على المحورين معًا في آنٍ واحد.
الأشكال الثلاثة، وما يُكلّفك كلٌّ منها فعليًا
انزع عنها لغة التسويق، وستجد ثلاثة أشكال لاستضافة نموذج لغوي في التمويل.
- واجهة API العامة. ترسل مُدخلًا إلى نقطة نهاية مشتركة لدى المزوّد وتستقبل الإكمال (completion). إنها الأرخص للبدء والأسرع وصولًا إلى أفضل النماذج، وهي أيضًا الخيار الذي سيُشكّك فيه فريق المخاطر لديك أشدّ التشكيك. المُدخل يغادر بيئتك. وما إذا كان ذلك مقبولاً يعتمد على الشروط المرتبطة بنقطة النهاية، لا على نقطة النهاية نفسها.
- النشر عبر VPC أو النشر المخصّص. يُشغّل المزوّد النموذج داخل مستأجر السحابة الخاص بك، أو يمنحك نسخة أحادية المستأجر في منطقة تُسمّيها أنت. يظلّ مسار البيانات داخل حدود تتحكّم فيها ويُمكنك الإشارة إليها على مخطّط. تدفع ثمن ذلك بتكلفة أعلى، وخيارات نماذج أقلّ، ومسار أبطأ إلى أيّ شيء أطلقه مختبر الطليعة الأسبوع الماضي.
- الأوزان المفتوحة المستضافة ذاتيًا. تُنزّل الأوزان وتُشغّلها على وحدات المعالجة الرسومية الخاصة بك، سواء داخل الشركة أو في حساب سحابي تملكه أنت. لا شيء في الطلب يمسّ طرفًا ثالثًا. في المقابل، تملك دورة الحياة بأكملها: التحديثات، والسعة، وخيارات التكميم (quantization)، ومنظومة التقييم (eval harness)، وكلّ تراجع في الأداء عند ترقية نقطة تحقّق (checkpoint).
الغريزة في مؤسسة خاضعة للتنظيم أن تندفع مباشرةً نحو الخيار الثالث لأنه يبدو الأكثر أمانًا. إنه يُزيل مشكلة واحدة، وهي نقل البيانات إلى طرف ثالث، لكنه يُسلّمك عدّة مشكلات أخرى. نموذج مستضاف ذاتيًا لا يُعيد أحد تقييمه بعد الترقية سينحرف على حِمل عملك بصمت. وحدات المعالجة الرسومية داخل الشركة التي تقبع عاطلة خارج ذروة نهاية الربع هي تأمين باهظ الثمن. إطار “الأمان تلقائيًا” يُخفي الفاتورة التشغيلية.
ابدأ من البيانات، لا من النموذج
قبل مقارنة خيارات الاستضافة، صنّف ما يدخل فعليًا في المُدخل. قرار الاستضافة ينبع من فئة البيانات، وهو عادةً أدقّ من عبارة “نحن نعمل مع بيانات مالية”.
- هل ثمة بيانات شخصية في المُدخل، وتحت أيّ ولاية قضائية؟ صاحب بيانات خاضع للائحة GDPR ومستهلك أمريكي خاضع لقانون GLBA يستدعيان قواعد إقامة وإفصاح مختلفة.
- هل الحمولة معلومات جوهرية غير عامة (MNPI)، أو مراكز مالية، أو أيّ شيء قد يُحرّك السوق إذا تسرّب؟ غالبًا ما تحمل الـ MNPI قواعد تعامل داخلية أكثر صرامة ممّا يشترطه القانون حرفيًا.
- هل تحمل البيانات التزام إقامة، سواء من جهة تنظيمية أو عقد عميل أو سياستك الخاصة، يُسمّي منطقة أو يمنع النقل؟
- ما قصة تتبّع النسب (lineage)؟ إذا انتهى الإكمال في مستند مودَع أو في قرار مواجِه للعميل، فأنت بحاجة إلى إظهار مصدر المُدخل وإعادة بناء الطلب بدقّة بعد أشهر.
بمجرد تصنيف البيانات، ينهار جزء كبير من الجدل. بيانات مرجعية عامة خالية من الـ MNPI ودون أيّ حقول شخصية يُمكن أن تذهب إلى واجهة API لا تحتفظ بالبيانات دون جدال كبير. أما المُدخل الذي يحتوي على بيانات تعريف شخصية (PII) لعميل تحت بند إقامة بيانات يُسمّي فرانكفورت فلا يُمكنه مغادرة حدود الاتحاد الأوروبي، ما يُقصي نقطة النهاية الأمريكية المشتركة على أساس الشروط التعاقدية قبل أن تُقيّم أداءها أصلًا. جودة النموذج لا تهمّ إلا ضمن الخيارات التي تسمح بها فئة البيانات مسبقًا.
هنا أيضًا يُصمَّم مسار التدقيق، لا أن يُركَّب لاحقًا كإضافة. كلّ استدعاء استدلال (inference call) في تدفّق خاضع للتنظيم ينبغي أن يُسجّل المُدخل، والنموذج وإصداره، والمنطقة التي نُفّذ فيها، وبصمة تشفيرية (hash) تربط الإكمال بالسجلّ الذي غذّاه. حين يسأل مُشرِف عن كيفية اتخاذ قرار مباشر (straight-through) في مارس، يجب أن يكون الجواب قابلاً لإعادة البناء دون استدعاء مهندس المناوبة.
قانون DORA غيّر المعادلة، لكن ليس في الاتجاه الذي يتوقّعه الناس
بموجب قانون الصمود التشغيلي الرقمي (DORA) في الاتحاد الأوروبي، يُعدّ مزوّد النموذج الخارجي مزوّد خدمات تكنولوجيا معلومات واتصالات من طرف ثالث (ICT third-party service provider). وإذا كان حمل العمل الذي يدعمه وظيفةً حرجة أو مهمة، فإن المزوّد يقع داخل إطار مخاطر الأطراف الثالثة لتكنولوجيا المعلومات والاتصالات لديك: بنود تعاقدية بشأن المعالِجين الفرعيين، وحقوق التدقيق والوصول، واستراتيجية خروج، وإدراجه في سجلّ المعلومات (register of information). لا شيء من هذا يجعل واجهة API طريقًا مختصرًا يلتفّ حول الحوكمة. أنت تُدير المزوّد كأيّ اعتمادية حرجة أخرى.
يترتّب على ذلك نتيجتان يميل كثير من الفرق إلى إغفالهما.
- الاستضافة الذاتية تُبقيك داخل الإطار. جلب النموذج إلى الداخل يُزيل النقل إلى طرف ثالث، لكن التزامات الصمود التشغيلي تقع الآن عليك مباشرةً: تخطيط السعة، والاستجابة للحوادث، واختبار الصمود. أنت تستبدل مورّدًا يجب أن تُشرف عليه بنظام يجب أن تُشغّله. ولا شيء منهما مجّاني.
- مخاطر التركّز حقيقية. إذا كان تسجيل درجات الاحتيال (fraud scoring)، ومذكّرات الائتمان، وخدمة العملاء لديك تُوجَّه جميعًا إلى نقاط نهاية مزوّد واحد، فتلك اعتمادية مفردة ستلاحظها الجهة التنظيمية. جزء من قرار الاستضافة هو أن تُقرّر ما إذا كان مسار احتياطي، سواء مزوّد ثانٍ أو نموذج مستضاف ذاتيًا خلف مفتاح ميزة (feature flag)، يستحقّ البناء قبل أن تحتاجه.
لا شيء من هذا يُرجّح شكلًا على آخر. إنه يُرجّح اتخاذ القرار لكلّ حمل عمل على حدة، انطلاقًا من فئة البيانات صعودًا، مع التعامل مع العقد ومسار التدقيق كجزأين من الدرجة الأولى في التصميم، لا كأوراق تُرفقها لاحقًا. نموذج احتيال يُسجّل درجة كلّ معاملة، ومهمة توليد سرد (narrative) ربع سنوية، يستدعيان تعرّض إقامة مختلفًا وميزانيتَي زمن استجابة مختلفتين تمامًا. أحدهما يحتاج جوابًا في أقل من 100 مللي ثانية على مسار الدفع؛ والآخر يعمل ليلاً في نهاية الربع. نادرًا ما يستحقّان جواب استضافة واحدًا، وإجبارهما على منصّة واحدة للحفاظ على أناقة البنية هو الطريق الذي يتحوّل به نظامٌ قابل للدفاع عنه إلى نظام هشّ.
الأسئلة الشائعة
هل يمكننا استخدام واجهة API لنموذج لغوي عام على البيانات المالية للعملاء؟
في كثير من الأحيان نعم، إذا قدّم المزوّد شروطًا مكتوبة بعدم الاحتفاظ بالبيانات وعدم استخدامها في التدريب، وظلّ مسار البيانات داخل منطقة معتمدة، وغطّت اتفاقية معالجة البيانات (DPA) وتقييم مخاطر المورّد لديك المعالِج الفرعي (subprocessor). العائق عادةً تعاقدي وليس تقنيًا.
هل تجعلنا استضافة نموذج مفتوح الأوزان (open-weight) ذاتيًا ممتثلين تلقائيًا؟
لا. الاستضافة الذاتية تُزيل مسألة نقل البيانات إلى طرف ثالث، لكنها تُضيف إلى التزاماتك الخاصة إدارة التحديثات (patching) والتحكّم في الوصول وسعة وحدات المعالجة الرسومية (GPU) ودورة حياة النموذج. أنت تستبدل مخاطر المورّد بمخاطر تشغيلية، ولا يزال قانون DORA يتوقّع منك إدارة كليهما.
ما الفرق بين نشر عبر VPC وواجهة API فيما يخصّ إقامة البيانات؟
النشر عبر VPC يُشغّل النموذج داخل مستأجر السحابة الخاص بك أو في نسخة مخصّصة أحادية المستأجر (single-tenant)، بحيث لا تمرّ المُدخلات عبر نقطة نهاية مشتركة متعددة المستأجرين. أما واجهة API فترسل البيانات إلى بنية المزوّد التحتية، التي قد تقع في منطقة مختلفة ما لم تُثبَّت الإقامة تعاقديًا.