السياق الطويل أم الاسترجاع؟ الاختيار الأمثل لوثائق التمويل

استرجِع بشكل افتراضي، ولا تلجأ إلى السياق الطويل إلا حين تكون الوثيقة صغيرة بما يكفي لتتّسع في النافذة، ويكون السؤال شاملًا لها بأكملها. الإفصاح الذي يبلغ 400 ألف رمز (token) لا يحتاج إلى الجلوس في النافذة إذا كانت الإجابة تعيش في فقرتين؛ فالاسترجاع يعثر على هاتين الفقرتين بتكلفة أقل ومسار تدقيقي أنظف. أما السياق الطويل فيستحقّ ثمنه حين يكون الاستدلال شاملًا (global) بحقّ.

الطرح الذي تسمعه باستمرار هو أن نوافذ السياق اتّسعت بما يكفي لإنهاء النقاش. أدرِج نموذج 10-K كاملًا، وتخطَّ التقسيم (chunking)، وتخطَّ مخزن المتجهات (vector store)، ودَع النموذج يتولّى الأمر. هذه قدرة حقيقية ومفيدة فعلًا. لكنها أيضًا الخيار الافتراضي الخاطئ لمعظم أعمال وثائق التمويل، والأسباب مملّة وتشغيلية أكثر منها متعلقة بجودة النموذج.

ما الذي يمنحه كل نهج فعلًا

النهجان لا يتنافسان على الطبقة نفسها. الاسترجاع يُقرّر ما الذي يقرأه النموذج. والسياق الطويل يُقرّر كم يستطيع أن يحمل دفعةً واحدة. أنت تحتاج إلى الأول غالبًا حتى حين تملك الثاني، لأنك في بيئة مالية نادرًا ما تملك وثيقة واحدة. لديك إفصاح، إضافةً إلى إفصاح العام السابق، إضافةً إلى اتفاقية الائتمان، إضافةً إلى بيانات التعرّض الداخلية، إضافةً إلى كشوف ثلاثة أرباع مالية. الاسترجاع هو الوسيلة التي تختار بها أيًّا من هذه ستُحمّل. وحجم النافذة لا يهمّ إلا بعد اتخاذ ذلك القرار.

المواضع التي يتفوّق فيها السياق الطويل بحقّ:

• أن تكون الوثيقة كائنًا واحدًا متماسكًا وأن يكون السؤال عنها بأكملها. “هل يتعارض أي بند في هذا العقد المكوّن من 80 صفحة مع بند الإنهاء؟” سؤال شامل. الاسترجاع يُجزّئه؛ فلا يمكنك أن تصل عبر الاسترجاع إلى “لا شيء آخر يناقض هذا”، لأن الغياب ليس مقطعًا (chunk) يمكن استرجاعه.
• أن تكون الإحالات المرجعية كثيفة ومحلّية، بحيث يقطعها التقسيم المحلّي. سندات الدين (indentures) ونشرات الإصدار (prospectuses) تُشير إلى الوراء والأمام باستمرار. مقطعٌ يقول “كما هو معرّف في القسم 4.2” لا قيمة له من دون القسم 4.2 نفسه.
• أن تكون بصدد قراءة استكشافية، لا أسئلة وأجوبة إنتاجية. العمل الذي يبقى المحلّل فيه ضمن الحلقة (analyst-in-the-loop) يحتمل التكلفة؛ أما خطّ المعالجة المستمرة (straight-through processing) الذي يعمل آلاف المرات يوميًا فلا يحتملها.

أما المواضع التي يتفوّق فيها الاسترجاع فهي الصورة المعاكسة: وثائق كثيرة، واستعلامات متكرّرة على المجموعة الوثائقية نفسها، وإجابات تعيش في نطاقات (spans) قليلة قابلة للتحديد. وهذا يصف الجزء الأكبر مما تُؤتمِته فرق العمليات المالية.

المفاضلة في التكلفة ليست متقاربة

هذا هو الجزء الذي يستهين به الناس. لنفترض أنك تُشغّل خطوة أسئلة وأجوبة على الوثائق داخل سير عمل مطابقة (reconciliation)، بضعة آلاف من الاستدعاءات يوميًا على المجموعة نفسها من ملفات القروض. حشو 250 ألف رمز (token) من السياق في كل استدعاء ليس خطأ تقريب. أنت تدفع لكي يُعيد النموذج قراءة وثيقة قرأها قبل تسعين ثانية للاستعلام السابق، وتدفع كلفة التعبئة المسبقة (prefill) على رموز لا علاقة لها بالسؤال إطلاقًا.

الاسترجاع يقلب النسبة. اسحب المقاطع الأربعة أو الخمسة ذات الصلة، وأنفق 4 آلاف رمز بدلًا من 250 ألفًا، فتنخفض فاتورة الاستعلام الواحد بما يقارب رتبتين عشريتين (two orders of magnitude). التخزين المؤقت للموجّهات (prompt caching) يُضيّق الفجوة في التعبئة المسبقة لوثيقة مستقرة، لكنه لا يُغلقها، ولا يفعل شيئًا حيال كون معظم تلك الرموز غير ذي صلة بالسؤال المحدّد. حين يرتفع الحجم وتستقرّ المجموعة الوثائقية، تُشير الاقتصاديات إلى اتجاه واحد، وهو اتجاه ليس خفيًّا.

هناك حجة تتعلق بزمن الاستجابة (latency) أيضًا. السياق الطويل بطيء في إنتاج الرمز الأول حين تكون النافذة ممتلئة. بالنسبة إلى أداة محلّل تفاعلية فهذا محتمل. أما بالنسبة إلى خطّ معالجة أمامه موعد نهائي لإقفال الربع المالي وطابور خلفه، فإن كل ثانية في الاستدعاء تتراكم لتصبح ساعات.

السياق الطويل لا يعني أن النموذج يقرأ كل شيء

الافتراض المريح هو أنه ما دام يتّسع فهو مقروء. وهذا ليس صحيحًا على نحو منتظم. الاستدعاء (recall) يتدهور مع الموضع ومع عدد الحقائق المتنافسة في النافذة، ووثائق التمويل عدائية بهذا الشكل بالضبط. نموذج 10-K يُكرّر أرقامًا متشابهة المظهر عبر القطاعات والفترات وإعادة البيانات (restatements). الخطر ليس أن يعجز النموذج عن إيجاد رقم. الخطر أن يُرجع بثقةٍ رقمَ العام السابق، أو إجمالي القطاع بدلًا من الإجمالي الموحّد، لأن كليهما كان في النافذة فاختطف الخطأ. هذا فشل في الصحة عند نقطة زمنية محدّدة (point-in-time correctness)، والنافذة الممتلئة تجعله أكثر احتمالًا لا أقلّ، بوضعها كل رقم متشابه أمام النموذج دفعةً واحدة.

الاسترجاع، إذا أُنجز ببيانات وصفية (metadata) لائقة، يمنحك دفاعًا هنا. إذا حمل كل مقطع فترته وكيانه ومصدره، فإن على النموذج أن يستدلّ على مجموعة أصغر ومُعلَّمة، ويمكنك تتبّع أي نطاق أنتج الإجابة. هذا التسلسل المصدري (lineage) يهمّ حين يسألك أحدهم لماذا حطّ رقمٌ في تقرير، وتحتاج إلى ما هو أكثر من “النموذج قال ذلك”.

لا شيء من هذا سبب لتجنّب السياق الطويل. بل هو سبب لاختباره على موادّك أنت لا للوثوق بالرقم التسويقي. ابنِ اختبار الإبرة (needle test) من إفصاحات حقيقية: ادسّ رقمًا معلومًا على أعماق متفاوتة وقِس الاستدعاء حسب الموضع عبر أطوال وثائقك الفعلية. ثم تتبّعه كتقييم (eval) من الدرجة الأولى، لأن هذا السلوك ينحرف عبر إصدارات النماذج، ولا تريد أن تكتشف تراجعًا عند إقفال الربع المالي.

كيف نقرّر فعلًا

القاعدة التي نتّبعها شبه آلية. استرجِع، ما لم تستطع أن تُسمّي سببًا محدّدًا يجعل السؤال يحتاج إلى الوثيقة كاملةً محمولةً دفعةً واحدة. معظم الأسئلة لا تستطيع، وبالنسبة إليها يكلّف الاسترجاع أقلّ ويترك مسارًا أنظف. أما تلك التي تستطيع، فاستخدم لها السياق الطويل عن قصد، وقيّس التقييم على أطوال الوثائق الحقيقية، وراقِب ميزانية الإيجابيات الكاذبة (false positives)، لأن الاستدلال الشامل على نافذة كبيرة هو بالضبط المكان الذي تختبئ فيه الإجابات الخاطئة الواثقة.

من الناحية العملية، ينتهي معظم خطوط المعالجة المالية إلى نهج هجين على أي حال. الاسترجاع يُضيّق مجموعةً من مئات الوثائق إلى الوثيقة أو الوثيقتين المهمّتين، ثم يقرأهما السياق الطويل بالكامل حين يكون السؤال شاملًا. هذا الترتيب يُبقي التكلفة محدودة ويُبقي سجلًّا لما قُرئ، وهو الجزء الذي يهمّ المدقّق بعد أن يكون النموذج قد مضى في شأنه بزمن طويل.