موسوعة AIXX › مفهوم تقني › معايير إنتاجية الاستدلال
مرجع إنتاجية الاستدلال (Inference Benchmark) هو الاختبار الجوهري لتقييم أداء GPU في الاستدلال: ليس «تشغيل برنامج قياسي وقراءة النتيجة»، بل «قياس الإنتاجية وزمن الاستجابة على GPU الهدف باستخدام نموذج العمل الحقيقي والدقة الحقيقية وحجم الدفعة الحقيقي» — قيمة المرجع تكمن في «القرب من الواقع» لا في «جمالية الأرقام».
المؤشرات الأساسية: الإنتاجية (tokens/s، عدد الرموز المولّدة في الثانية) تحدد سعة الخدمة؛ زمن الاستجابة (TTFT زمن أول رمز / ITL زمن كل رمز) يحدد تجربة المستخدم؛ عدد الطلبات المتزامنة يحدد القدرة الخدمية. معيار الاختيار للمشتري يجب أن يكون الاختبار الفعلي لمزيج «النموذج المستهدف + الدقة المستهدفة + حجم الدفعة المستهدف» — وليس نتائج الأداء العامة التي تنشرها الشركة المصنعة.
| البند | القيمة / المنهجية |
|---|---|
| الإنتاجية | tokens/s (عدد الرموز المولّدة في الثانية) |
| TTFT | زمن أول رمز (الأساس الملموس لتجربة المستخدم) |
| ITL | زمن كل رمز (مؤشر السلاسة) |
| خط النجاح | ≥ 80% من المرجع العام (وفق إطار السوابق) |
مرجع إنتاجية الاستدلال بـ FP4 على B300 — على المشتري أن يجري الاختبار على B300 بنموذج أعماله الحقيقي ودقته الحقيقية وحجم دفعته الحقيقي — الأرقام التوضيحية من الشركة المصنعة لا تصلح أساساً للشراء. أدوات مرجعية موصى بها: vLLM benchmark_serving / TensorRT-LLM benchmark / MLPerf Inference.