موسوعة AIXX › مفهوم تقني › GPUDirect
GPUDirect هي عائلة تقنيات من NVIDIA للاتصال المباشر بين وحدات معالجة الرسومات — تتيح للبيانات تجاوز المعالج والذاكرة النظامية وإنشاء مسار مباشر بين GPU والأجهزة الخارجية. GPUDirect RDMA يتيح لبطاقة الشبكة القراءة والكتابة مباشرة في ذاكرة GPU (مع إلغاء النسخ عبر CPU)؛ GPUDirect Storage ينقل بيانات التخزين مباشرة إلى ذاكرة GPU (دون المرور عبر CPU)؛ أما NVLink فهو الربط المباشر بين وحدات GPU نفسها.
يستفيد تدريب واستدلال الذكاء الاصطناعي من GPUDirect: أثناء التدريب تمر مزامنة التدرجات في AllReduce عبر GPUDirect RDMA؛ وأثناء الاستدلال تنتقل KV cache من التخزين مباشرة إلى ذاكرة GPU (عبر GPUDirect Storage)؛ وفي أنظمة multi-node multi-GPU يمر النسيج عبر GPUDirect+RDMA — فلا يوجد عنق زجاجة من CPU في أي نقطة على مسار البيانات.
| البند | القيمة / المنهجية |
|---|---|
| GPUDirect RDMA | مسار مباشر بين بطاقة الشبكة وذاكرة GPU |
| GPUDirect Storage | مسار مباشر من NVMe/التخزين إلى ذاكرة GPU |
| العتاد المرافق | بطاقة شبكة ConnectX + طوبولوجيا PCIe تدعم P2P |
| حزمة البرمجيات | CUDA + NCCL + GPUDirect Storage SDK |
جميع إصدارات B300 تدعم GPUDirect — فنسيج الأنظمة العابرة للخوادم في GB200/GB300 NVL72 (عبر ConnectX-8) ونطاق NVLink داخل الرف كلاهما يسلك مسارات GPUDirect. عند شراء مكوّنات الربط البيني (بطاقات الشبكة/المبدّلات/الكابلات)، فإن التحقق بندًا بندًا من قائمة توافق GPUDirect خطوة إلزامية في الاستلام — فقد تُركّب وحدات الطرف الثالث فيزيائيًا دون أن يعمل GPUDirect معها.