AIXX Pedia › Conceito técnico › Scale-up e Scale-out
Scale-up (expansão vertical) e Scale-out (expansão horizontal) são as duas camadas da arquitetura de interconexão de um cluster de IA: o Scale-up é a «expansão dentro do rack» — as GPUs formam um domínio totalmente conectado de alta velocidade via NVLink/NVSwitch (domínio único de 72 GPUs no GB200 NVL72); o Scale-out é a «expansão entre racks» — múltiplos racks são conectados via InfiniBand ou Ethernet para formar clusters maiores.
Leitura para o comprador: o Scale-up determina «quão rápida é a comunicação dentro do rack» (alta largura de banda no domínio NVLink, mas escala limitada); o Scale-out determina «quão rápida é a comunicação entre racks» (largura de banda menor via InfiniBand/Ethernet, mas escala praticamente ilimitada). O gargalo de throughput no treinamento de grandes modelos geralmente está na camada de Scale-out — o design do fabric (topologia/roteamento/controle de congestionamento) é a competência central do integrador.
| Item | Valores / critério |
|---|---|
| Interconexão Scale-up | NVLink / NVSwitch (dentro do rack) |
| Interconexão Scale-out | InfiniBand / Ethernet RoCE (entre racks) |
| Largura de banda Scale-up | 130 TB/s dentro do domínio do GB200 NVL72 |
| Largura de banda Scale-out | 800 G por placa no ConnectX-8 |
Na linha B300, o Scale-up usa NVLink 5 (1,8 TB/s por GPU, totalmente conectada no domínio) e o Scale-out usa ConnectX-8 (800 G, fabric entre máquinas) — ao adquirir sistemas completos, ambas as camadas devem ser planejadas: a escala do domínio NVLink dentro do rack determina «quantas GPUs se comportam como uma só», e o design do fabric entre racks determina a «eficiência de expansão do cluster».