تحجيم عتاد الاستدلال المحلي لنماذج اللغة

تحجيم العتاد للاستدلال المحلي هو المكان الذي تخطئ فيه برامج الذكاء الاصطناعي الخاصة أكثر ما تخطئ، وبطريقة يكلّف تصحيحها كثيراً. ونادراً ما يكون الفشل شراء القليل. الفشل هو شراء تهيئة اختيرت من عنوان اختبار أداء لا من حمل العمل، ثم اكتشاف أن الإنتاجية تنهار عند أطوال السياق الإنتاجية، أو أن بطاقة بأرقام حوسبة مبهرة تتضوّر جوعاً بسبب عرض نطاق الذاكرة.

منطق التحجيم أبسط مما يبدو عليه في سوق وحدات المعالجة الرسومية. أولاً، يجب أن تتّسع الأوزان في ذاكرة VRAM. ثم تحجزون ذاكرة إضافية لذاكرة KV والتنشيطات وأعباء وقت التشغيل. التقدير العملي هو عدد المعاملات مضروباً في عدد البايتات لكل معامل، زائد 30 إلى 50 بالمئة للخدمة. INT4 تساوي تقريباً 0.5 بايت لكل معامل، وFP8 نحو بايت واحد، وFP16 نحو بايتين. وكل ما تبقّى في حديث التحجيم هو تنقيح لهذه العملية الحسابية.

والمبدأ الثاني لا يقلّ أهمية ويحظى بانتباه أقل: أفضل بطاقة ليست صاحبة أعلى رقم حوسبة، بل التي تملك عرض نطاق ذاكرة كافياً وسعة VRAM كافية لاحتواء نموذجكم وذاكرة KV الخاصة به عند مستوى التزامن لديكم. خدمة الاستدلال مقيّدة بعرض النطاق أكثر بكثير مما هي مقيّدة بالحوسبة.

حساب ذاكرة VRAM

طبّقوا المعادلة وتصير الصورة ملموسة سريعاً.

حجم النموذج	أوزان FP8	أوزان INT4	ذاكرة VRAM العملية مع أعباء الخدمة
7B	~7 غيغابايت	~3.5 غيغابايت	5–10 غيغابايت لخدمة خفيفة، وأكثر عند السياق الطويل
13B	~13 غيغابايت	~6.5 غيغابايت	9–20 غيغابايت
34B	~34 غيغابايت	~17 غيغابايت	25–50 غيغابايت
70B	~70 غيغابايت	~35 غيغابايت	45–100+ غيغابايت

ويسري تعديلان عملياً. تحمل طرق التكميم عبء بيانات وصفية بنحو 10 بالمئة تبعاً للأسلوب، فتعاملوا مع أرقام الأوزان كحدود دنيا لا كأهداف. وتنمو ذاكرة KV مع طول السياق وحجم الدفعة معاً، ولهذا فإن تهيئة تُظهر أرقاماً نظيفة عند سياق 4K قد تنهار عند 64K مع اثني عشر مستخدماً متزامناً. وإن كانت حالة استخدامكم استرجاع مستندات طويلة، فحجّموا ذاكرة KV عمداً بدل أن تتركوها تمتصّ ما تبقّى من هامش.

اختيار طبقة وحدة المعالجة الرسومية

ينقسم السوق إلى أربعة نطاقات، ولا تحتاج معظم المؤسسات إلا اثنين منها.

• H200 وB200. طبقة الصدارة: نماذج كبيرة، وإنتاجية عالية، وخدمة متعددة الوحدات عبر NVLink. تعطي الأرقام المنشورة لأنظمة H200 بثماني وحدات نحو 12,400 رمز في الثانية على Llama 4 Scout و2,864 رمزاً في الثانية على DeepSeek V3 بدقة FP8، ووضعت مقارنة في أبريل 2026 إنتاجية B200 عند ما يصل إلى 4.9 أضعاف RTX PRO 6000. تُبرَّر هذه الطبقة بالتزامن وحجم النموذج، لا بالمكانة.
• L40S وRTX 6000 Ada وRTX PRO 6000 Blackwell. طبقة الإنتاج الجادة على عقدة واحدة. L40S وRTX 6000 Ada بطاقتان بسعة 48 غيغابايت بعرض نطاق قوي وبلا NVLink، ما يحدّ من قدرتهما على التوسّع داخل الصندوق لكنه يجعلهما مناسبتين لخدمة فئة 34B وللنماذج الأكبر المكمَّمة. وصارت RTX PRO 6000 Blackwell خياراً إنتاجياً قياسياً بوحدة واحدة. ولحصة كبيرة من الأحمال المؤسسية الداخلية، هذا النطاق هو الجواب الصحيح وطبقة الصدارة شراء زائد عن الحاجة.
• AMD MI325X وعائلة MI300 الأوسع. البديل ذو الذاكرة الكبيرة حين تريدون اقتصاديات الحوسبة من AMD وتقبلون نضج برمجيات ROCm نسبةً إلى CUDA. المقايضة حقيقية: vLLM وTensorRT-LLM وFlashAttention أقوى على NVIDIA، فاحسبوا وقت الهندسة للضبط ومجموعة المسارات المختبَرة الأضيق.
• البطاقات الاستهلاكية، RTX 4090 و5090. مفيدة فعلاً لبيئات التطوير وعمليات النشر لفرق صغيرة والنماذج المكمَّمة. وليست طبقة إنتاج مشتركة، لأن السعة وعرض النطاق يضعان سقفاً صلباً للتزامن قبل أن تفعل الحوسبة ذلك بكثير.

التكميم هو الرافعة الرئيسية

يفعل التكميم لميزانية عتادكم أكثر من أي قرار منفرد آخر. نقل نموذج 70B من FP16 إلى INT4 يأخذ الأوزان من نحو 140 غيغابايت إلى نحو 35 غيغابايت، وهذا هو الفرق بين عقدة متعددة الوحدات وبطاقة واحدة بسعة 80 غيغابايت فيها متّسع لذاكرة KV. ليس هذا مكسب كفاءة هامشياً، بل يغيّر أمر الشراء الذي تكتبونه.

ويجب قياس المقايضة لا افتراضها. تحافظ FP8 عادةً على الجودة جيداً وتعمل بسرعة على عتاد بدعم أصلي، بضعف بصمة INT4 من الذاكرة. وINT4 هي حيث تكسبون أكبر متّسع وحيث تصير خسارة الجودة مرهونة بالمهمة: الإجابة المستندة إلى الاسترجاع والاستخراج والتصنيف تحتملها جيداً عموماً، بينما الاستدلال متعدّد الخطوات وتوليد الشيفرة أكثر حساسية. ابنوا مجموعة تقييم صغيرة من حمل عملكم الحقيقي، وشغّلوها عند كل دقّة، ودعوا النتائج تقرّر. هذا عمل نصف يوم يوفّر بانتظام ستة أرقام من كلفة العتاد.

تقدير الإنتاجية قبل الشراء

تحكم الإنتاجيةَ عرضُ نطاق الذاكرة والتجميع الدفعي وطول السياق وما إذا كان النموذج يتّسع كاملاً في الذاكرة السريعة. وثلاث قواعد تقريبية تغطّي معظم التخطيط.

• إذا اتّسع النموذج بارتياح في ذاكرة VRAM وكان السياق متواضعاً، فتوقّعوا إنتاجية قريبة من الأرقام المنشورة لفئة البطاقة.
• إذا كنتم قرب حدّ الذاكرة، فستتدهور الإنتاجية بحدّة لأن ضغط ذاكرة KV يفرض دفعات أصغر أو إزاحة، والتدهور غير خطّي.
• إذا احتجتم تزامناً عالياً، فقدّموا قطع مراكز البيانات المزوّدة بذاكرة HBM. تهيمن السعة وعرض النطاق على أداء الخدمة ما إن يتشارك عدة مستخدمين بطاقة واحدة.

الرقم الذي تخطّطون على أساسه ليس ذروة الرموز في الثانية، بل الرموز في الثانية عند طول السياق في المئين 95 وعند التزامن المتوقّع لديكم، وهو عادةً كسر من الرقم المعلن. اطلبوا من المورّدين أرقاماً عند طول سياقكم، وإن تعذّر الحصول عليها فشغّلوا الاختبار بأنفسكم على سعة مستأجرة قبل الالتزام بعتاد.

مطابقة الطبقة بحمل العمل

حمل العمل	الطبقة العتادية العملية
النمذجة الأولية والحافة والمساعدات الصغيرة	معالج مركزي وحده أو وحدة معالجة رسومية متواضعة، للنماذج الصغيرة والإنتاجية المنخفضة فقط
أدوات داخلية بنماذج 7B–13B	وحدات معالجة رسومية بسعة 16–24 غيغابايت، خاصةً مع التكميم
خدمة فئة 34B	بطاقات 48 غيغابايت مثل L40S أو RTX 6000 Ada كحدّ أدنى مريح
خدمة فئة 70B على عقدة واحدة	وحدات مراكز بيانات بسعة 80 غيغابايت فأكثر، أو تكميم قوي على بطاقات عالية الذاكرة
الصدارة والإنتاج متعدّد المستخدمين	فئة H200 أو B200، عادةً متعددة الوحدات مع NVLink

ويستحق الاستدلال على المعالج المركزي مكانه في هذا الجدول بدل الاستبعاد. يدعم Ollama وLM Studio التنفيذ على المعالج وحده، وتعمل نماذج مثل Qwen3 0.6B أو Llama 3.2 1B على حاسوب محمول بذاكرة 8 غيغابايت. وعند نحو 2 إلى 10 رموز في الثانية يصبح غير صالح للعمل التفاعلي متعدّد المستخدمين، ومناسباً تماماً للتصنيف الدفعي الليلي للمستندات، وهو حصة من عمل الذكاء الاصطناعي المؤسسي الحقيقي أكبر مما يوحي به تأطير المساعد التفاعلي.

من أين تبدأون

حجّموا انطلاقاً من طلب مقيس، لا من أكبر نموذج قد تريدون تشغيله يوماً ما. خذوا حمل العمل المقصود، وحدّدوا طول السياق في المئين 95 وذروة التزامن، واختاروا أصغر نموذج يجتاز عتبة الجودة على مجموعة التقييم الخاصة بكم، ثم طبّقوا معادلة VRAM بهامش خدمة 40 بالمئة. يعطيكم ذلك فئة البطاقة. تحقّقوا منها على سعة وحدات معالجة رسومية مستأجرة لأسبوع قبل الشراء، لأن أسبوعاً من وقت السحابة رخيص مقابل عنقود بمواصفات خاطئة.

وملاحظتان عمليتان على الشراء نفسه. ارصدوا ميزانية للبنية المحيطة، لأن عقد وحدات المعالجة الرسومية تحتاج مسارات شبكة وتخزين مكافئة، والبطاقة الجائعة بطاقة مهدورة. واتركوا هامشاً لتبدّل النماذج: إصدارات الأوزان المفتوحة تتحرّك أسرع من جداول الإهلاك، والتهيئة التي تشترونها ستخدم نموذجاً مختلفاً خلال سنة. والبطاقات ذات الذاكرة الأكبر مما يحتاجه نموذج اليوم تتقادم أفضل بكثير من بطاقات اختيرت لتناسبه بالضبط.