Ficha técnica SPEC CARD
NVIDIA H200 SXM
Versão de memória aprimorada da H100 — mesmo nível de consumo de 700W, memória dobrada para 141GB HBM3e/4.8TB/s, throughput de inferência de grandes modelos duplicado; o servidor de oito placas HGX H200 é o novo pilar dos clusters de inferência; após a flexibilização das exportações para a China em 2026, o volume aumentou, sendo a moeda dura do mercado de hardware de grande memória disponível
Visão geral
A NVIDIA H200 SXM é uma GPU de data center baseada na arquitetura Hopper, posicionada como uma evolução de memória no mesmo formato do H100. Sua mudança mais marcante é a memória por placa, elevada a 141GB HBM3e — segundo a NVIDIA, a primeira GPU do mundo a adotar essa capacidade em HBM3e. Mantendo o mesmo envelope de potência do H100, os dados oficiais indicam um throughput de inferência de LLM cerca de duas vezes maior. Em capacidade de computação, a H200 SXM suporta FP64, FP32 e as diversas precisões de Tensor Core, com desempenho FP8 de 4 petaFLOPS (com aceleração por sparsidade). No formato SXM, interliga-se via NVLink a 900GB/s para formar sistemas HGX H200 de 4 ou 8 GPUs, amplamente usada em inferência e treinamento de grandes modelos, computação de alto desempenho e cargas de decodificação de vídeo — é a escolha mainstream para clusters de inferência com muita memória.
Especificações principais
| Arquitetura | NVIDIA Hopper (núcleo GH100, processo customizado TSMC 4N, 80 bilhões de transistores, 814 mm², mesmo chip GH100 do H100 SXM) |
| Memória | 141GB HBM3e (barramento de 6144 bits / taxa de pino de 6,3Gbps, oficialmente a primeira placa do mundo com 141GB HBM3e) |
| Tipo de memória | HBM3e |
| Largura do barramento de memória | 6144bit |
| Largura de banda de memória | 4.8TB/s |
| Poder de computação | FP8 Tensor Core 3.958 TFLOPS (com sparsidade; denso 1.979); FP16/BF16 TC 1.979*; TF32 TC 989*; INT8 TC 3.958 TOPS*; FP64 TC 67; FP32 67; FP64 34 (valores SXM, *=With sparsity) |
| Consumo | SXM até 700W (configurável); o H100 SXM no mesmo formato também opera na faixa de 700W |
| Interconexão | NVLink 900GB/s + PCIe Gen5 128GB/s; com NVSwitch forma sistemas fully-connected HGX H200 de 4/8 GPUs (8 GPUs somam mais de 32 PFLOPS em FP8 e 1,1TB de memória) |
| Ano de lançamento | 2024 |
| SMs e CUDA cores | 132 SM / 16.896 núcleos FP32 CUDA |
| Frequência acelerada | 1,980MHz |
| Cache L2 | 50MB |
| Fatiamento MIG | Até 7 instâncias @ 18GB (18GB por instância, mais que os 16,5GB da H200 NVL e os 10GB da H100) |
| Codecs | 7 NVDEC + 7 JPEG |
| Computação confidencial | Confidential Computing Supported |
| Forma | Módulo SXM (refrigerado a líquido ou refrigerado a ar conforme o sistema; vem em configurações HGX H200 de 4 ou 8 GPUs; o AI Enterprise é um add-on adquirido à parte) |
Especificações verificadas com base em documentação oficial (
Benchmarks oficiais , atualizado em 2026-10-10) · O preço real está sujeito à cotação do vendedor
Cenários de uso
- Serviços de inferência de LLM: com 141GB de memória, acomoda modelos maiores ou contextos mais longos; segundo dados oficiais, o throughput de inferência é cerca de duas vezes o da geração anterior — ideal para APIs de LLM em produção e inferência em lote
- Treinamento e fine-tuning de grandes modelos: com interconexão NVLink de 900GB/s, forma sistemas HGX H200 de 4 ou 8 GPUs, cuja potência agregada em FP8 supera 32 petaFLOPS, suportando treinamento e fine-tuning com eficiência paramétrica de modelos de grande escala
- Inferência multi-instância e fatiamento de recursos: via MIG, pode ser dividida em até 7 instâncias (18GB cada), permitindo que provedores de nuvem ofereçam recursos de inferência isolados a múltiplos inquilinos na mesma placa física
- Pipelines de vídeo e imagem: com 7 decodificadores NVDEC e 7 motores JPEG, consegue lidar em paralelo com transcodificação massiva de vídeo e decodificação de imagem além da inferência de grandes modelos
Modelos da mesma família
| Modelo | Memória | Consumo |
|---|
| NVIDIA T4 Comparar | 16GB GDDR6 com ECC (ativado por padrão) | 70W (potência total da placa, padrão) |
| NVIDIA A100 Comparar | Duas versões: 40GB HBM2 / 80GB HBM2e (a de 80GB anunciada na SC20 em 16/11/2020), com ECC | SXM4 400W (igual para 40GB/80GB); versão PCIe: 40GB 250W / 80GB 300W |
| NVIDIA H20 Comparar | 96GB HBM3 (três fontes consistentes: Flopper/VipraTech/Tencent News) | 400W TDP (três fontes: tabela de especificações Flopper/VipraTech e Tencent News com 'TDP de 400W'; o texto da VipraTech mencionava 350W, valor contraditório descartado) |
| NVIDIA GB300 Comparar | 288GB HBM3e (por encapsulamento de GPU; 576GB no superchip; HGX a nível de placa com 2,1TB / rack com 20TB, coexistindo) | TGP de até 1400W |
| NVIDIA A30 Comparar | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Comparar | 24GB GDDR6X | 450W TGP (média de 315W em jogos, fonte recomendada de 850W) |
Vídeo explicativo VIDEO
Pontos de compra e inspeção
- Verificação de potência e refrigeração da sala: a H200 SXM está no formato SXM, com TDP máximo de 700W configurável; é preciso confirmar a redundância de alimentação do sistema (HGX H200 de 4 ou 8 GPUs) e a compatibilidade com a solução refrigerado a líquido ou refrigerado a ar, evitando estimar pelo baseline do H100 e ficar sem margem
- Conferência de memória e interconexão na entrega: confirme que a versão recebida é a SXM e não a H200 NVL (diferem em faixa de potência, formato e interconexão); a versão SXM depende de NVLink no nível da placa-mãe e não pode operar isoladamente sem a base HGX — ao comprar o sistema completo, verifique a configuração de interconexão NVLink de 900GB/s
- Software e conformidade: confirme o canal de fornecimento e o lote junto ao fabricante do sistema e ao provedor de nuvem, e avalie se é necessária a licença adicional do NVIDIA AI Enterprise; em compras sujeitas a controles de exportação, verifique o enquadramento de conformidade e, como a placa suporta Confidential Computing, valide esse recurso na aceitação caso haja necessidade de isolamento de segurança
Perguntas frequentes
Qual a diferença entre a H200 e a H100?
A H200 é a evolução de memória da H100: a memória sobe para 141GB HBM3e, mantendo a mesma faixa de potência (máximo de 700W, configurável). Segundo dados oficiais, o throughput de inferência de LLM da H200 é cerca de duas vezes o da H100. Ambas pertencem à arquitetura Hopper, com capacidade de computação e ecossistema de software praticamente idênticos.
H200 SXM ou H200 NVL, qual escolher?
Ambas têm 141GB de memória, mas as diferenças são claras: a SXM é um formato integrado em placa base, dependente do NVLink para interconexão de 900GB/s, com TDP máximo de 700W — ideal para sistemas HGX e clusters de alta densidade; a NVL é uma placa PCIe de dois slots refrigerado a ar, com TDP máximo de 600W, interconexão de 2 ou 4 vias via ponte NVLink e faixas de computação mais baixas. Para clusters próprios de inferência de alta densidade, geralmente se escolhe a SXM em sistema completo; ambientes com servidores PCIe existentes ou restrição de espaço podem optar pela NVL.
Que tamanho de modelo cabe na memória da H200?
Com 141GB por placa, é possível carregar integralmente a maioria dos grandes modelos open source para inferência, ou operar com janelas de contexto mais longas; em um sistema HGX H200 de 8 GPUs via NVLink, a memória soma 1,1TB, suportando inferência e treinamento de modelos na casa das centenas de bilhões de parâmetros. A escala real implantável também depende da precisão de quantização do modelo, do tamanho do KV Cache e da implementação do framework.
Conteúdo atualizado em 2026-10-10 · Para aprofundar, siga a Ficha em profundidade
Política editorial fluxo