AIXX Pedia › Concepto técnico › Scale-up y Scale-out
Scale-up (escalado vertical) y Scale-out (escalado horizontal) son los dos niveles de la arquitectura de interconexión de un clúster de IA: Scale-up es la «expansión dentro del rack» — las GPU se interconectan a alta velocidad y de forma total mediante NVLink/NVSwitch formando un dominio (el dominio de 72 GPU del GB200 NVL72); Scale-out es la «expansión entre racks» — varios racks se conectan entre sí mediante InfiniBand o Ethernet para formar clústeres más grandes.
Lectura para el comprador: el Scale-up determina «la velocidad de la comunicación dentro del rack» (el ancho de banda dentro del dominio NVLink es alto, pero la escala es limitada); el Scale-out determina «la velocidad de la comunicación entre racks» (InfiniBand/Ethernet ofrecen menos ancho de banda pero escala prácticamente ilimitada). El cuello de botella de rendimiento en el entrenamiento de modelos grandes suele estar en la capa de Scale-out — el diseño del fabric (topología/enrutamiento/control de congestión) es la competencia clave del integrador.
| Concepto | Valor / criterio |
|---|---|
| Interconexión Scale-up | NVLink / NVSwitch (dentro del rack) |
| Interconexión Scale-out | InfiniBand / Ethernet RoCE (entre racks) |
| Ancho de banda Scale-up | 130 TB/s dentro del dominio del GB200 NVL72 |
| Ancho de banda Scale-out | 800 G por tarjeta con ConnectX-8 |
En la serie B300, el Scale-up va por NVLink 5 (1,8 TB/s por tarjeta · interconexión total dentro del dominio) y el Scale-out por ConnectX-8 (800 G · fabric entre máquinas) — al adquirir sistemas completos hay que planificar ambas capas: la escala del dominio NVLink dentro del rack determina «cuántas tarjetas se comportan como una sola», y el diseño del fabric entre racks determina «la eficiencia de escalado del clúster».