دمج النماذج اللغوية الكبيرة وRAG

ما هي

لا يملك نموذج لغوي كبير أي معرفة باتفاقيات قروضكم، أو وثائق سياساتكم الداخلية، أو التقرير التنظيمي الذي قدمه فريق الامتثال لديكم الربع الماضي. يسد التوليد المعزز بالاسترجاع (RAG) هذه الفجوة: يبحث النظام في مجموعة مستنداتكم الخاصة عن المقاطع ذات الصلة، ويولّد النموذج إجابة مستندة إلى ما وجده، مع إرفاق المصدر. وعند تنفيذه بشكل جيد، يكون هذا هو الفارق بين مساعد تحليلي (copilot) مفيد فعلاً وآخر يُتوقف عن استخدامه بصمت بعد أول إجابة خاطئة بثقة.

نادراً ما يكون الجزء الصعب من RAG في القطاع المالي هو استدعاء النموذج، بل هو الاسترجاع. المستندات المالية طويلة وكثيفة ومليئة بالأرقام والمصطلحات المحددة التي تمزقها استراتيجية تقطيع (chunking) ساذجة إلى شظايا عديمة المعنى. نبني استرجاعاً هجيناً يجمع بين البحث الدلالي والتصفية بالكلمات المفتاحية والبيانات الوصفية، مضبوطاً وفق أنواع مستنداتكم الفعلية: اتفاقيات الائتمان، والنشرات، وأدلة السياسات، والتقارير التنظيمية، والمذكرات الداخلية. كل إجابة ينتجها النظام تحمل استشهاداً يعود إلى المقطع المحدد الذي استخدمه، بحيث يستطيع المحلل التحقق منها في ثوانٍ بدلاً من الوثوق بها دون تمحيص.

نبني أيضاً طبقة التقييم التي تتخطاها معظم مشاريع RAG: مجموعة اختبار من أسئلة حقيقية ذات إجابات صحيحة معروفة، بحيث يمكنكم قياس دقة الاسترجاع وجودة الإجابة قبل الإطلاق، والاستمرار في قياسها مع نمو مجموعة مستنداتكم. وحيثما تخضع المستندات الأساسية لقيود وصول، مثل مستندات صفقات سرية للعميل أو معلومات غير علنية، يحترم الاسترجاع ضوابط الوصول ذاتها التي تحملها المستندات بالفعل، بدلاً من معاملة مجموعة النصوص كمجمع واحد مسطح.