Ficha técnica SPEC CARD
NVIDIA H100 SXM
O acelerador que define o padrão de facto do treino de IA atual — componente central dos sistemas DGX/HGX H100, alicerce dos clusters de dezenas de milhares de GPUs, o ativo mais sólido do mercado de segunda mão e futuro, rei da retenção de valor
Visão geral
A NVIDIA H100 SXM é uma placa aceleradora de data center baseada na arquitetura Hopper, componente central dos sistemas DGX e HGX H100 e o hardware que define o padrão de facto do treino de IA em larga escala atual. Adota o formato SXM5, equipada com 80 GB de memória HBM3, oferecendo 900 GB/s de largura de banda de interconexão GPU-GPU através da quarta geração de NVLink, com suporte nativo a PCIe Gen5. Os seus Tensor Core cobrem múltiplas precisões, de FP64 a FP8, e suporta MIG, permitindo dividir uma única placa em até sete instâncias. É amplamente implantada em pré-treino de grandes modelos, serviços de inferência e clusters de computação de alto desempenho; no mercado de segunda mão, apresenta também elevada retenção de valor devido à escassez de oferta.
Especificações principais
| Arquitetura | NVIDIA Hopper (núcleo GH100, processo personalizado TSMC 4N, 80 mil milhões de transístores, 814 mm², Compute Capability 9.0) |
| Memória | 80 GB HBM3 (especificação SXM5, 5 stacks HBM3); a versão PCIe tem 80 GB HBM2e (5 stacks, 2 TB/s) |
| Largura do barramento de memória | 5120 bit (10 controladores de memória de 512 bit, tanto na versão SXM5 como na PCIe) |
| Largura de banda de memória | 3,35 TB/s (SXM5); a versão PCIe: 2 TB/s |
| Poder de computação | FP8 Tensor Core 3.958 TFLOPS (com sparsity; denso 1.979); FP16/BF16 TC 1.979*; TF32 TC 989*; FP64 TC 67; FP32 67; FP64 34 (especificação SXM5, *=With sparsity) |
| Consumo | SXM5 até 700 W (configurável); versão PCIe 350 W |
| Interconexão | NVLink 4.0 900 GB/s (SXM5, 18 ligações) + PCIe Gen5 x16 128 GB/s; versão PCIe: PCIe Gen5 128 GB/s, opcional bridge NVLink duplo de 600 GB/s |
| Ano de lançamento | 2022 (anunciada na GTC de 22-03-2022, SXM5 disponível no Q3 de 2022) |
| SMs e CUDA cores | 132 SM / 16.896 núcleos FP32 CUDA (SXM5); versão PCIe: 114 SM / 14.592 |
| Frequência acelerada | SXM5: 1830 MHz (FP8/FP16/BF16/TF32 TC) / 1980 MHz (FP64 TC e FP32/FP64); versão PCIe: 1620/1755 MHz |
| Cache L2 | 50MB |
| Fatiamento MIG | Secure MIG de segunda geração, até 7 instâncias @ 10 GB |
| Codecs | 7 NVDEC + 7 NVJPG |
| Forma | Módulo SXM5 (refrigerado a líquido ou refrigerado a ar, conforme a máquina, em configurações HGX/DGX H100 de 4 ou 8 placas); versão PCIe de duas slots refrigerado a ar |
Especificações verificadas com base em documentação oficial (
Benchmarks oficiais , atualizado em 2026-10-10) · O preço real está sujeito à cotação do vendedor
Cenários de uso
- Pré-treino de grandes modelos de linguagem: como núcleo dos nós HGX/DGX H100, formando clusters de múltiplas placas até dezenas de milhares de GPUs via NVLink e NVSwitch, assumindo treinos de longa duração de modelos com grande número de parâmetros
- Implantação de serviços de inferência de grandes modelos: aproveitando a aceleração dos Tensor Core FP8 e INT8 e o particionamento multi-instância via MIG, fornece capacidade de cálculo para inferência online de alta concorrência ou cenários multi-inquilino
- Computação científica e HPC: com o desempenho em dupla precisão e os Tensor Core FP64, atende cargas HPC tradicionais como dinâmica de fluidos computacional, dinâmica molecular e simulação climática
- Treino e fine-tuning de modelos multimodais: equipada com múltiplas unidades de descodificação NVDEC, é adequada para pipelines de treino com dados multimodais como texto-imagem e vídeo, bem como fluxos de processamento de media
Modelos da mesma família
| Modelo | Memória | Consumo |
|---|
| NVIDIA T4 Comparar | 16GB GDDR6 com ECC (ativado por padrão) | 70W (potência total da placa, padrão) |
| NVIDIA A100 Comparar | Duas versões: 40GB HBM2 / 80GB HBM2e (a de 80GB anunciada na SC20 em 16/11/2020), com ECC | SXM4 400W (igual para 40GB/80GB); versão PCIe: 40GB 250W / 80GB 300W |
| NVIDIA H20 Comparar | 96GB HBM3 (três fontes consistentes: Flopper/VipraTech/Tencent News) | 400W TDP (três fontes: tabela de especificações Flopper/VipraTech e Tencent News com 'TDP de 400W'; o texto da VipraTech mencionava 350W, valor contraditório descartado) |
| NVIDIA GB300 Comparar | 288GB HBM3e (por encapsulamento de GPU; 576GB no superchip; HGX a nível de placa com 2,1TB / rack com 20TB, coexistindo) | TGP de até 1400W |
| NVIDIA A30 Comparar | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Comparar | 24GB GDDR6X | 450W TGP (média de 315W em jogos, fonte recomendada de 850W) |
Vídeo explicativo VIDEO
Pontos de compra e inspeção
- Planeamento de formato e alimentação: a H100 SXM é um design onboard, incompatível com chassis PCIe convencionais; é obrigatório adquirir máquinas completas DGX/HGX ou servidores com placa base SXM5. O consumo da máquina completa é elevado, exigindo verificação prévia da capacidade elétrica da sala de servidores, da densidade de potência do rack e da compatibilidade da solução de refrigeração (refrigerado a líquido ou refrigerado a ar)
- Verificação de interconexão e rede: a implantação multi-placa depende da NVLink de quarta geração e da NVSwitch para 900 GB/s de largura de banda de interconexão GPU-GPU; na inspeção, confirme placa a placa o funcionamento da base SXM e dos módulos NVSwitch, verifique o estado de negociação das ligações PCIe Gen5 e evite obstáculos na futura expansão do cluster
- Verificação de origem e estado: as transações em canais de segunda mão e pré-encomenda são frequentes; confirme o número de série e o estado da garantia do fabricante, exija capturas de teste na máquina (nvidia-smi para confirmar modelo, 80 GB de memória e disponibilidade de MIG), execute testes de stress prolongados para detetar problemas de memória e refrigeração e verifique a integridade da topologia NVLink
Perguntas frequentes
Qual a diferença entre a H100 SXM e a H100 PCIe, e como escolher?
A versão SXM é onboard, oferecendo 900 GB/s de interconexão GPU-GPU via NVLink e maior capacidade dos Tensor Core, ideal para clusters de treino em larga escala com múltiplas placas; a versão PCIe é uma placa padrão de duas slots refrigerado a ar, com bridge NVLink opcional (duas placas, largura de banda inferior), melhor compatibilidade e menor barreira de implantação, adequada para cenários de máquina única ou média escala. Para escalabilidade de cluster e pico de desempenho, escolha SXM; para implantação flexível, PCIe.
A H100 suporta particionamento MIG? Quantos utilizadores por placa?
Sim. A função MIG da H100 SXM permite dividir uma placa em até 7 instâncias, cada uma com 10 GB de memória, ideal para inferência, desenvolvimento e testes em cenários multi-inquilino, proporcionando isolamento de recursos e maior utilização.
Vale a pena comprar uma H100 em segunda mão? Como é a retenção de valor?
A H100 é o hardware principal do treino de IA em larga escala atual, com procura continuadamente elevada; no mercado de segunda mão, o seu desempenho de preço supera claramente a maioria dos hardwares da mesma geração, sendo vista como um produto de elevada retenção de valor. Contudo, na compra, verifique com atenção a legitimidade da origem, o estado da garantia e a saúde do hardware (memória, NVLink, refrigeração), confirmando especificações e estado com testes reais antes de fechar negócio.
Conteúdo atualizado em 2026-10-10 · Para aprofundar, siga a Ficha em profundidade
Política editorial fluxo