AIXX Pedia › Concepto técnico › Interconexión NVLink
NVLink es el bus de interconexión GPU-a-GPU propietario de NVIDIA, que permite a varias GPU comunicarse directamente con un ancho de banda muy superior al de PCIe; la quinta generación alcanza 1,8 TB/s por tarjeta.
El NVSwitch asociado conecta varias GPU en una matriz totalmente interconectada: de ahí viene la «NV» en «NVL8 / NVL72»: una topología all-to-all totalmente interconectada.
| Concepto | Valor / criterio |
|---|---|
| Generación | Quinta generación de NVLink |
| Ancho de banda por tarjeta | 1.8TB/s |
| Formas típicas | NVL8 (placa base de 8 tarjetas) · NVL72 (sistema completo de 72 tarjetas) |
| Red externa complementaria | ConnectX-8 + Quantum-800 / Spectrum-X(800G) |
El paralelismo de tensores de los grandes modelos divide un modelo entre varias tarjetas, generando una enorme comunicación inter-GPU: NVLink permite que ocho GPU trabajen como una sola.
Un sistema de ocho tarjetas también requiere una red externa de 800G; sin una red bien configurada, ocho GPU son ocho islas aisladas.