موسوعة AIXX › مفهوم تقني › تكميم النماذج
التكميم (Quantization) هو تقنية تخفيض دقة أوزان النموذج وقيم التنشيط من دقة عالية (FP16/BF16) إلى دقة منخفضة (FP8/INT8/INT4/FP4) — والتأثير المباشر هو تحسن مزدوج في استهلاك ذاكرة الفيديو وإنتاجية الحساب: تكميم INT4 يخفض نموذج 70B من 140GB إلى نحو 35GB — أي أن بطاقة واحدة بسعة 48GB تكفي لتشغيله.
أهميته لجهات الشراء: التكميم يحدد «ما حجم النموذج الذي يمكن تشغيله بنفس الميزانية» — فعند اختيار مواصفات ذاكرة الفيديو يجب مراعاة ما إذا كان النموذج المستهدف قابلاً للتكميم، وإلى أي دقة، وهل يمكن قبول فقد الدقة. FP8/FP4 هما مسار الدقة الأحدث من NVIDIA (من Hopper إلى Blackwell)، وتواكبه AMD بدعمها MXFP4/FP6.
| البند | القيمة / المنهجية |
|---|---|
| سلّم الدقات الشائع | FP32 → BF16/FP16 → FP8/INT8 → INT4/FP4 |
| ذاكرة 70B FP16 | نحو 140GB |
| ذاكرة 70B INT4 | نحو 35GB |
| أدوات التكميم | GPTQ / AWQ / TensorRT-LLM / bitsandbytes |
B300 يدعم أصلاً دقات FP4/FP6 — في سيناريوهات الاستدلال يمكن التكميم إلى FP4 لاستثمار أقصى قدرة حسابية؛ أما في التدريب فيُنصح بـ FP8/BF16 (فقد دقة يمكن التحكم فيه). وقبول فقد الدقة بعد التكميم يعتمد على النموذج والمهمة — فمهام التصنيف/الاسترجاع تتسامح أكثر، بينما المهام التوليدية أقل تسامحاً.