AIXX Pedia › Conceito técnico › Memória HBM3e
A HBM (High Bandwidth Memory) é uma forma de memória de vídeo que empilha verticalmente dies de DRAM e os conecta ao GPU por interconexões ultracurtas; a HBM3e é sua evolução comercial mais recente. Resolve sempre o mesmo problema: na era dos grandes modelos, a velocidade com que os dados alimentam os núcleos de computação não pode se tornar um gargalo.
Para uma máquina de IA completa, a capacidade de memória de vídeo determina diretamente "qual tamanho de modelo cabe" — e esse é o parâmetro mais marcante da geração B300: 288 GB por placa.
| Item | Valores / critério |
|---|---|
| Capacidade por placa (B300) | 288GB HBM3e |
| Total com oito placas (NVL8) | Cerca de 2,3 TB |
| Comparação com a geração anterior H100 | 80GB(HBM3) |
| Comparação com a H200 | 141GB(HBM3e) |
Há uma fórmula simples e útil para estimar o uso de memória de vídeo de um modelo: pesos em FP8 ≈ número de parâmetros × 1 byte. O DeepSeek R1 na versão completa tem 671B de parâmetros, o que dá cerca de 690 GB em pesos FP8 — não cabe em uma placa, mas a máquina B300 NVL8, com 2,3 TB de memória total, permite implantar o modelo completo em um único nó, com folga considerável.
A memória de vídeo também é um divisor de águas no mercado: modelos da mesma série com configurações de memória distintas (como as versões de 3 TB e 4 TB) podem ter diferenças de preço na ordem de milhões.