AIXX Pedia › Concepto técnico › Chip conmutador NVSwitch
NVSwitch es el chip de conmutación NVLink de NVIDIA: concentra los enlaces NVLink de varias GPU en un solo chip de conmutación, lo que permite que la matriz totalmente interconectada (All-to-All), donde «todos se comunican con todos», crezca cada vez más. Debutó en 2018 junto al sistema DGX-2, conectando 16 GPU V100 en un único dominio NVLink (blog para desarrolladores de NVIDIA, «NVSwitch Accelerates NVIDIA DGX-2»); con la quinta generación (junto a Blackwell), un solo dominio NVLink puede escalar hasta 72 GPU, con un total de 130 TB/s de conmutación NVLink dentro del dominio (página oficial de NVIDIA NVLink y página oficial de GB200 NVL72).
Su papel en los racks de cómputo para IA: en las máquinas de ocho GPU (HGX/DGX NVL8), los chips NVSwitch van soldados en la placa base, conectando las ocho GPU en un dominio totalmente interconectado; las soluciones de rack completo como GB200/GB300 NVL72 emplean bandejas independientes de conmutación NVLink: 18 bandejas de cómputo más 9 bandejas de conmutación, con 18 chips NVSwitch en total. El «NV» de «NVL8 / NVL72» hace referencia precisamente a esta forma de interconexión total mediante NVSwitch.
| Concepto | Valor / criterio |
|---|---|
| Formato | Chip de conmutación que agrega la interconexión total dentro del dominio NVLink |
| NVLink de quinta generación por GPU | 1800 GB/s (página oficial de NVIDIA NVLink) |
| Dominio de conmutación NVLink5 | 8 o 72 GPU · 130 TB/s en total dentro del dominio NVL72 (página oficial de NVIDIA) |
| Comparación con la generación anterior (NVLink4) | 900 GB/s por GPU · 8 GPU por dominio · 7,2 TB/s de conmutación en total |
En la máquina de ocho GPU B300, toda la interconexión depende de los NVSwitch de la placa base: DGX B300 declara oficialmente un total de 14,4 TB/s de NVLink, es decir, la suma de las 8 tarjetas a 1800 GB/s cada una (página oficial de NVIDIA DGX B300). El paralelismo de tensores en el entrenamiento de grandes modelos reparte un mismo modelo entre varias GPU, con una comunicación inter-GPU masiva; como el dominio NVSwitch no pierde ancho de banda, las ocho tarjetas pueden colaborar como si fueran una sola.
Desde la perspectiva del comprador: los NVSwitch están en la placa base y las tarjetas van soldadas a ella; la inspección no puede limitarse a las tarjetas, sino que hay que probar el dominio NVLink de la máquina completa (ancho de banda punto a punto y pruebas de estrés de comunicación colectiva all-reduce); el historial de reparaciones de la placa base y los chips de conmutación solo puede rastrearse mediante el informe de inspección. Los compradores de nivel rack completo (formato NVL72) también deben tener en cuenta que las 9 bandejas de conmutación funcionan refrigerado por líquido, y negociar en conjunto la infraestructura de la sala de servidores.