المشروع التجريبي الذي يكلّف بضع مئات من الدولارات شهرياً لا يخبرك تقريباً بأي شيء عن كلفة النظام نفسه في بيئة الإنتاج. فالعرض التوضيحي يُشغّل حفنة من الاستعلامات يومياً مقابل مطالبة نظيفة. أما الإنتاج فيُشغّل آلافاً، مقابل سياق نما بهدوء دون أن تنتبه، مع محاولات إعادة نسيت أنها موجودة أصلاً. تصل الفاتورة في نهاية الربع، فيطرح أحدهم في قسم المالية السؤال الوحيد الذي يهم: كم يكلّف الاستعلام الواحد، ولماذا هو بهذا الرقم تحديداً.
إن عجزت عن الإجابة، فأنت لا تملك ضبطاً لتكلفة LLM، بل تملك مفاجأة شهرية. وفي المجال المالي لا يكون بند المصروف غير المُفسَّر مجرد أمر محرج، بل هو من النوع الذي يُجمَّد المشروع بسببه بينما يبحث الجميع عن السبب.
أين يذهب المال فعلاً
السعر المعلَن لكل مليون رمز (token) هو الجزء الذي يقرأه الجميع، وهو في الوقت نفسه الأقل أهمية. تكمن التكلفة الحقيقية في عدد الرموز التي تُمرّرها، وكم مرة تفعل ذلك، وكم منها تدفع ثمنه مرتين.
عملياً، تتحرّك الفاتورة بفعل بضعة عوامل محدّدة:
- السياق المتضخّم. حشو المستند بأكمله، والسجل كاملاً، ومطالبة نظام سخيّة في كل استدعاء لأن التقليص بدا محفوفاً بالمخاطر. أنت تدفع ثمن كل رمز في كل استدعاء، بما في ذلك الرموز التي لم يكن النموذج بحاجة إليها قط.
- الإفراط في الاستدعاء. سلاسل تُجري خمسة استدعاءات للنموذج حيث يكفي استدعاءان، أو وكيل يُعيد طرح السؤال الفرعي نفسه لأن لا شيء حفظ الإجابة.
- محاولات الإعادة. مهلة منتهية، أو استجابة JSON مشوّهة، أو تراجع بسبب حد المعدّل. كل محاولة إعادة هي استدعاء ثانٍ كامل بالسعر الكامل، وتتصاعد محاولات الإعادة تماماً حين يكون النظام تحت ضغط وحين تكون أنت أقل انتباهاً.
- رموز المُخرَجات. عادةً ما تُسعَّر أعلى من المُدخَلات، وهي الأسهل في الإفلات لتطول حين لا يضع أحد قيداً على الاستجابة.
لا يظهر أيٌّ من هذه بوصفه رقماً كبيراً واحداً، بل تظهر جميعها بوصفها كلفة استعلام واحد تبلغ ضِعفَي أو ثلاثة أضعاف ما أوحى به مخطط البنية التقنية.
أساليب تُحرّك الفاتورة
ما إن تعرف أين يذهب المال، تصبح الحلول ملموسة ومملّة في معظمها.
التخزين المؤقت للمطالبات (prompt caching) هو الأداة الأولى وغالباً الأكبر أثراً. فإن تكرّرت مطالبة نظام طويلة أو كتلة تعليمات ثابتة عبر الاستدعاءات، فإن تخزينها مؤقتاً يعني أنك تتوقف عن دفع سعر المُدخَلات الكامل للرموز نفسها في كل مرة. ينطبق المنطق ذاته على الاسترجاع: خزّن المقاطع المسترجَعة مؤقتاً للأسئلة المتكرّرة بدلاً من إعادة التضمين وإعادة الجلب عند كل إصابة. لا يفيد التخزين المؤقت إلا حيث تكون البادئة ثابتة فعلاً، لذا يستحق الأمر هيكلة المطالبات بحيث يأتي الجزء الثابت أولاً.
المعالجة الدفعية (batching) هي الأداة الثانية. كثير من أعباء العمل المالية ليست تفاعلية: استخراج بيانات الإفصاحات عبر مجموعة كاملة من الشركات، والتسوية الليلية، وإعادة تعبئة رموز الأسباب لمراجعة إجراء سلبي. هذه لا تحتاج إلى إجابة في أجزاء من الثانية، فيمكن تمريرها عبر مسار دفعي يُسعّره المزوّدون أدنى بكثير من المسار المباشر. وفرز العمل إلى “هناك إنسان ينتظر” و”هذا يُشغَّل ليلاً” هو عادةً أكبر توفير هيكلي متاح على الإطلاق.
توجيه النماذج (model routing) هو الأداة الثالثة. ليست كل مهمة فرعية بحاجة إلى أكبر نموذج. فحلّ الكيانات، وتصنيف نعم/لا، وإعادة صياغة قصيرة، ومرشّح أولي قبل خطوة الاستدلال المكلفة، وجّه هذه كلها إلى نموذج أصغر وأرخص، واحجز النموذج الكبير للعمل الذي يحتاجه فعلاً. الخطر هنا هو انحراف الجودة في المهام المُوجَّهة إلى الأدنى، لذا تحتاج كل وجهة إلى مجموعة تقييم خاصة بها وإلى فحص يؤكد أن الدقة صامدة. الأرخص ليس أرخص إلا إذا ظلّت الإجابة صحيحة.
ثم يأتي السياق نفسه. فالاسترجاع الأفضل أسلوب لخفض التكلفة، لا مجرد أسلوب لتحسين الجودة. الاسترجاع الأدق الذي يُعيد ثلاثة مقاطع ذات صلة بدلاً من عشرين يقلّص رموز المُدخَلات في كل استدعاء، ويميل في الوقت ذاته إلى تحسين الإجابة. تقليص السياق هو المكان الذي يُسدّد فيه الاسترجاع الجيد ثمنه مرتين.
اجعل التكلفة مقياساً من الدرجة الأولى
ما يربط كل ذلك معاً هو القياس. يجب أن تكون التكلفة لكل استدعاء مقياساً تُسجّله إلى جانب زمن الاستجابة والدقة، مُفصَّلاً حسب الوجهة، وحسب الميزة، وحسب نوع الرمز. من دونه يصبح كل توفير أعلاه مجرد تخمين، ويصبح كل تراجع غير مرئي حتى تهبط الفاتورة.
تعامل معها بالطريقة نفسها التي تتعامل بها مع أي رقم ينتهي به المطاف أمام مدقّق حسابات. أنت تريد تتبّع نسب التكلفة: أي نموذج، كم رمز مُدخَل ومُخرَج، إصابة في التخزين المؤقت أم خطأ فيه، كم محاولة إعادة. وحين يسأل قسم المالية عن سبب تحرّك كلفة الاستعلام هذا الربع، ينبغي أن تكون الإجابة استعلاماً، لا اجتماعاً.
هذا هو المعيار الجدير بإلزام النظام به. كلفة استعلام واحد يمكنك قراءتها وشرحها والدفاع عنها ستصمد أمام أسئلة المدير المالي. أما إجمالي شهري عاجز عن تفصيله، فلن يصمد.