AIXX Pedia › Conceito técnico › Chip de switch NVSwitch
O NVSwitch é o chip de comutação NVLink da NVIDIA: ele agrega os enlaces NVLink de várias GPUs em um único ponto de comutação, permitindo que a matriz de interconexão total (All-to-All), na qual "todos se comunicam diretamente com todos", cresça cada vez mais. Estreou em 2018 junto com o sistema DGX-2, conectando 16 GPUs V100 em um único domínio NVLink (blog de desenvolvedores da NVIDIA, "NVSwitch Accelerates NVIDIA DGX-2"); na quinta geração (com Blackwell), um único domínio NVLink pode escalar até 72 GPUs, com 130 TB/s de comutação NVLink agregada no domínio (páginas oficiais da NVIDIA sobre NVLink e GB200 NVL72).
Papel nos racks de IA: nas máquinas de oito GPUs (HGX/DGX NVL8), o NVSwitch vem soldado na placa de base, conectando as oito GPUs em um domínio full mesh; soluções de rack inteiro como GB200/GB300 NVL72 usam bandejas dedicadas de comutação NVLink — 18 bandejas de computação mais 9 bandejas de comutação, totalizando 18 chips NVSwitch. O "NV" em "NVL8 / NVL72" refere-se justamente a essa topologia full mesh via NVSwitch.
| Item | Valores / critério |
|---|---|
| Fator de forma | Chip de comutação que agrega a interconexão full mesh dentro do domínio NVLink |
| NVLink por GPU de quinta geração | 1800 GB/s (página oficial da NVIDIA sobre NVLink) |
| Domínio de comutação NVLink5 | 8 ou 72 GPUs · 130 TB/s agregados no domínio NVL72 (páginas oficiais da NVIDIA) |
| Comparação com a geração anterior (NVLink4) | 900 GB/s por GPU · 8 GPUs no domínio · 7,2 TB/s de comutação agregada |
No servidor de oito GPUs B300, a interconexão depende inteiramente do NVSwitch na placa de base: a NVIDIA especifica oficialmente 14,4 TB/s agregados de NVLink para o DGX B300 — ou seja, 1800 GB/s por GPU somados nas 8 placas (página oficial do NVIDIA DGX B300). No treinamento de grandes modelos, o paralelismo de tenores distribui o modelo por várias GPUs, gerando um volume enorme de comunicação entre elas; como o domínio NVSwitch não perde largura de banda, as oito GPUs conseguem operar em conjunto como se fossem uma só.
Perspectiva do comprador: como o NVSwitch está na placa de base e as GPUs também são soldadas nela, a inspeção não pode se limitar às placas — é preciso testar o domínio NVLink da máquina completa (largura de banda ponto a ponto e testes de estresse de comunicação coletiva all-reduce); o histórico de reparos da placa de base e dos chips de comutação só pode ser rastreado pelo relatório de inspeção. Compradores de soluções de rack inteiro (formato NVL72) devem também observar que as 9 bandejas de comutação são refrigerado a líquido, e que a infraestrutura da sala de servidores precisa ser negociada em conjunto.