SECTIONS
EDITIONS
NETWORK
AIXX Pedia La enciclopedia del mundo del cómputo

AIXX Pedia › Concepto técnico › Scale-up y Scale-out

Scale-up y Scale-out

SCALE-UP / SCALE-OUT · Ficha de concepto técnico

Resumen OVERVIEW

Scale-up (escalado vertical) y Scale-out (escalado horizontal) son los dos niveles de la arquitectura de interconexión de un clúster de IA: Scale-up es la «expansión dentro del rack» — las GPU se interconectan a alta velocidad y de forma total mediante NVLink/NVSwitch formando un dominio (el dominio de 72 GPU del GB200 NVL72); Scale-out es la «expansión entre racks» — varios racks se conectan entre sí mediante InfiniBand o Ethernet para formar clústeres más grandes.

Lectura para el comprador: el Scale-up determina «la velocidad de la comunicación dentro del rack» (el ancho de banda dentro del dominio NVLink es alto, pero la escala es limitada); el Scale-out determina «la velocidad de la comunicación entre racks» (InfiniBand/Ethernet ofrecen menos ancho de banda pero escala prácticamente ilimitada). El cuello de botella de rendimiento en el entrenamiento de modelos grandes suele estar en la capa de Scale-out — el diseño del fabric (topología/enrutamiento/control de congestión) es la competencia clave del integrador.

Cifras clave KEY NUMBERS

ConceptoValor / criterio
Interconexión Scale-upNVLink / NVSwitch (dentro del rack)
Interconexión Scale-outInfiniBand / Ethernet RoCE (entre racks)
Ancho de banda Scale-up130 TB/s dentro del dominio del GB200 NVL72
Ancho de banda Scale-out800 G por tarjeta con ConnectX-8

Su relevancia en el B300 ON B300

En la serie B300, el Scale-up va por NVLink 5 (1,8 TB/s por tarjeta · interconexión total dentro del dominio) y el Scale-out por ConnectX-8 (800 G · fabric entre máquinas) — al adquirir sistemas completos hay que planificar ambas capas: la escala del dominio NVLink dentro del rack determina «cuántas tarjetas se comportan como una sola», y el diseño del fabric entre racks determina «la eficiencia de escalado del clúster».

Límites y advertencias LIMITS

  • La escala del Scale-up está limitada por el encapsulado: el número de GPU dentro del dominio NVLink depende de la longitud de los cables de cobre y del número de puertos del chip de conmutación — el NVL72 es hoy el límite práctico, y el NVL576 forma parte de la hoja de ruta.
  • La latencia del Scale-out es mayor que la del Scale-up: la comunicación entre máquinas atraviesa la pila de protocolos de red (incluso con RDMA), con una latencia superior a la del NVLink dentro del rack — la estrategia de paralelismo del entrenamiento debe ajustarse a la proporción de ancho de banda entre ambas capas.

Vídeo explicativo VIDEO

Memoria HBM3eInterconexión NVLinkSXM / NVL8refrigeración líquida por placa fría / CDUFormato de precisión FP8MoE (mezcla de expertos)Chip conmutador NVSwitchRed de interconexión InfiniBandAlmacenamiento NVMeCDU de refrigerado por líquidoAcceso remoto directo a memoria RDMAGPUDirectTensor CoreGPU multi-instancia MIGPCIe Gen5Computación confidencialGPU virtual vGPUPrecisión de punto flotante reducida FP4 / FP6Caché de inferencia KV CacheÓptica copackaged CPONVLink FusionArquitectura modular MGXCuantización de modelosParalelismo de tensoresComunicaciones colectivasFábrica de IACircuito de refrigeración líquidaIndicador de eficiencia energética PUETensorRT-LLMMotor de inferencia vLLMAdaptación de bajo rango LoRACadena de suministro de cómputoCoste total de propiedad (TCO)Benchmarks de rendimiento de inferenciaDestilación de modelosCadena de suministro de energíaEconomía del tokenPipeline de datos de entrenamientoStack de optimización de inferenciaMemoria de vídeo GDDR7Familia de conectores de alimentación (EPS/PCIe 8pin/12VHPWR/12V-2x6)Cronología de los controles de exportación hacia ChinaGuía de verificación de GPU (nvidia-smi/GPU-Z)Optimización de inferencia con TensorRTEjecución por grafos con CUDA GraphsBiblioteca de comunicación colectiva NCCLFormato abierto de modelos ONNXGenealogía de generaciones HBMEntrenamiento en precisión mixtaGeneraciones de PCIeGenealogía de formatos de rackGuía de nomenclatura de modelos de GPUCircuito de comercialización de GPU de segunda manoComparativa entre refrigerado por aire y refrigerado por líquidoSalud de la memoria de vídeo y diagnóstico de fallosMFU (utilización de cómputo del modelo)Memoria DDR5Memoria de vídeo HBM4Interconexión UALinkFicha de modelo B300

Referencias REFERENCES

  1. Sitio oficial de NVIDIA — Página del producto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Datos de mercado y circulación: AIXX Exchange (franja de mercado de esta base)
Versiones y correcciones |Esta entrada es mantenida por el equipo editorial de AIXX Pedia, redactada con asistencia de IA y verificada por humanos. Actualizada el 2026-10-31 · Versión v1.0 · Todos los cambios quedan registrados y consultables.
Esta base
Política editorialSobre esta base (declaración de intereses)canal de correcciones
Resumen de la constitución editorial
Cada afirmación con fuenteDefectos siempre indicados · correcciones públicas y trazablesNo se aceptan entradas pagadasCero elementos de captación o venta dentro de las entradasLos datos de cotización solo se montan como módulo de datos
Familia AIXX
AIXX CloudAIXX ExchangeAIXX IndexAIXX Noticias
Repaso de mercado: AIXX Exchange · © 2026 AIXX Pedia · una producción de AIXX