AIXX Pedia › Concepto técnico › Memoria HBM3e
La HBM (memoria de alto ancho de banda) es un formato de memoria de vídeo en el que los dies de DRAM se apilan verticalmente y se conectan a la GPU mediante enlaces ultracortos; HBM3e es su evolución comercial más reciente. Responde a un mismo problema: en la era de los modelos de gran tamaño, la velocidad a la que los datos llegan a los núcleos de cómputo no puede convertirse en el cuello de botella.
Para un sistema de IA completo, la capacidad de la memoria de vídeo determina directamente «qué tamaño de modelo se puede alojar», y es también el parámetro más llamativo de esta generación de equipos B300: 288 GB por tarjeta.
| Concepto | Valor / criterio |
|---|---|
| Capacidad por tarjeta (B300) | 288GB HBM3e |
| Total de ocho tarjetas (NVL8) | Unos 2,3 TB |
| Frente a la generación anterior H100 | 80GB(HBM3) |
| Frente a H200 | 141GB(HBM3e) |
Existe una fórmula tosca pero útil para estimar el consumo de memoria de un modelo: pesos en FP8 ≈ número de parámetros × 1 byte. DeepSeek R1 en su versión completa tiene 671B de parámetros, unos 690 GB de pesos en FP8: no caben en una sola tarjeta, pero los 2,3 TB de memoria total de un equipo B300 NVL8 permiten desplegarlo completo en un solo nodo, con margen de sobra.
La memoria de vídeo también es un punto de inflexión en los precios de mercado: dentro de una misma serie, las distintas configuraciones de memoria (por ejemplo, las versiones de 3 TB y 4 TB) pueden presentar diferencias de precio de hasta un millón.