موسوعة AIXX › مفهوم تقني › تحسين الاستدلال TensorRT
TensorRT هي منظومة أدوات NVIDIA لتحسين الاستدلال في التعلم العميق: التعريف الرسمي هو «منظومة أدوات تمنح المطورين استدلالاً عالي الأداء للتعلم العميق»، وتشمل مترجم الاستدلال وبيئة التشغيل وتحسين النماذج، وهي مبنية فوق نموذج البرمجة المتوازية CUDA (صفحة TensorRT الرسمية من NVIDIA). تأخذ النموذج المدرَّب وتُجري دمج الطبقات والضبط التلقائي للأنوية والتكميم منخفض الدقة، ثم تُترجمه إلى محرك استدلال عالي الأداء مخصص لكرت GPU بعينه.
دورها في رفوف حوسبة الذكاء الاصطناعي: التدريب يُقاس بـ PyTorch، أما إنتاجية الاستدلال الإنتاجية فتتحقق غالباً عبر TensorRT — والنماذج الضخمة تسلك فرعها الخاص بالنماذج اللغوية الضخمة TensorRT-LLM (له مدخل مستقل في هذا الموسوعة، صدرت نسخته 1.0 في 2026-09). الأرقام الرسمية: تسريع يصل إلى 36 ضعفاً مقابل منصات CPU الخالصة، وتسريع يصل إلى 6 أضعاف عبر سطر واحد من PyTorch؛ وTensorRT-LLM أداء يصل إلى 8 أضعاف، وتحسين TCO بمقدار 5.3 أضعاف، وخفض استهلاك الطاقة بنحو 6 أضعاف (صفحة NVIDIA الرسمية).
| البند | القيمة / المنهجية |
|---|---|
| التموضع | منظومة NVIDIA لتحسين الاستدلال: مترجم + بيئة تشغيل + تحسين نماذج (بحسب التعريف الرسمي) |
| الأرقام الأدائية | تسريع يصل إلى 36 ضعفاً مقابل CPU الخالصة · 6 أضعاف عبر سطر واحد من PyTorch (الصفحة الرسمية) |
| TensorRT-LLM | أداء يصل إلى 8 أضعاف · تحسين TCO بمقدار 5.3 أضعاف · خفض الطاقة بنحو 6 أضعاف (الصفحة الرسمية) |
| الإصدار | الإصدار 11.x اعتباراً من 2026-09 · أحدث إصدار رسمي 11.4.0 (تحديث 2026-10) |
أرقام استدلال كروت جيل B300 (Blackwell Ultra) لا تتحقق إلا داخل حزمة البرمجيات: رقم «أداء Agentic AI يصل إلى 50 ضعفاً وخفض التكلفة 35 ضعفاً» الذي تعلنه NVIDIA مرتبط بحزمة TensorRT/TensorRT-LLM (صفحة TensorRT الرسمية)، وكذلك أرقام الاستدلال بـ FP4 المعلنة لـ B300 تسلك مسار TensorRT-LLM. نفس الكرت، إذا ضُبطت الحزمة البرمجية أو أُسيئ ضبطها، قد يختلف الإنتاجية المقاسة بأضعاف.
من منظور المشتري: عند قياس إنتاجية الاستدلال عند الفحص، يجب تدوين إصدارات حزمة البرمجيات (إصدار TensorRT، دقة التكميم، هل مرّ عبر TensorRT-LLM) والنموذج المستخدم في التقرير ذاته، حتى تكون الأرقام قابلة للمقارنة وإعادة الإنتاج؛ وبيع نتائج حزمة محسّنة بعمق كأنها أداء عاري للجهاز حيلة تضخيم شائعة في سوق الأجهزة المستعملة.