Ficha técnica SPEC CARD
Intel Gaudi 3
A flagship atual de aceleradores de IA da Intel (lançada na Vision 2024), a placa de aceleração de terceiros que rompe o ecossistema fechado da NVLink com interconexão RoCE nativa sobre Ethernet; já implantada na IBM Cloud e no Dell XE9680, completando a cobertura de fabricantes da enciclopédia
Visão geral
O Intel Gaudi 3 é a linha de aceleradores da Intel voltada ao treinamento e à inferência de IA em larga escala, fabricada no processo TSMC 5 nm com arquitetura de dois dies: dois dies de computação idênticos operam em conjunto por meio de uma ponte no interposer, com interconexão de alta largura de banda e baixa latência. Seu motor de matrizes MME entrega 1678 TFLOPS tanto em BF16 quanto em FP8, complementado por 64 unidades TPC e 8 unidades MME; a memória é de 128 GB HBM2e (8 pilhas de 16 GB), além de 96 MB de SRAM on-chip. O produto se destaca pela interconexão RoCE nativa sobre Ethernet e é oferecido nas variantes OAM (HL-325L) e PCIe (HL-338), com usos típicos que abrangem treinamento de grandes modelos, implantação de inferência e expansão de clusters em data centers.
Especificações principais
| Arquitetura | Gaudi 3 (arquitetura de aceleração de IA heterogênea de 5ª geração, 2 dies de computação idênticos conectados via interposer de forma transparente ao software, TSMC 5nm) |
| Memória | 128GB HBM2e (8×16GB stacks, 3,6GHz, endereçamento unificado de dois dies) |
| Largura de banda de memória | 3,7 TB/s de pico |
| Poder de computação | MME de matrizes: FP8 1678 / BF16 1678 / FP16(signed) 459 / TF32 459 / FP32 229 TFLOPS; vetores TPC: FP8 57,3 / BF16 28,7 / FP16 28,7 / FP32 14,3 TFLOPS |
| Motores de computação | 8× MME (64K MACs por MME) + 64× núcleos TPC (soma dos dois dies) |
| SRAM on-chip | 96MB (12,8/6,4 TB/s leitura/escrita) |
| Consumo | OAM HL-325L: TDP de 900W (refrigeração passiva; refrigerado a líquido também 900W) | Placa PCIe HL-338: TDP de 600W (refrigeração passiva) |
| Interconexão | 24× 200GbE RoCE (total bidirecional de 1200GB/s, via 48 SerDes 112G PAM4; 21 portas por placa para interconexão GPU-GPU + 3 portas scale-out) + interface de host PCIe Gen5 x16 (128GB/s, 64GB/s unidirecional) |
| Decodificação de mídia | 14 decodificadores de mídia |
| Forma | OAM HL-325L (mezzanine OCP OAM 2.0) / placa PCIe HL-338 (CEM 5.1) / base universal HLB-325 (8 placas com full all-to-all, 6× OSFP800 scale-out) |
| Ano de lançamento | 2024 (anunciado na Intel Vision em 09/04/2024, disponibilidade OEM no 2º trimestre de 2024) |
Especificações verificadas com base em documentação oficial (
Benchmarks oficiais , atualizado em 2026-10-10) · O preço real está sujeito à cotação do vendedor
Cenários de uso
- Treinamento distribuído de grandes modelos de linguagem, construindo clusters com a capacidade de rede de 24 vias 200GbE RoCE — 21 links entre OAMs e 3 portas de expansão por OAM
- Serviços de inferência em precisão mista BF16/FP8, aproveitando os 128 GB HBM2e para acomodar modelos de grande porte
- Nó integrado de 8 placas baseado na base HLB-325, ideal para tarefas de treinamento que exigem interconexão total entre GPUs e baixo overhead de comunicação
- Placa HL-338 com interface de host PCIe Gen5 X16, adequada como complemento elástico de capacidade de computação e expansão de inferência em salas de servidores gerais já existentes
Modelos da mesma família
| Modelo | Memória | Consumo |
|---|
| Intel Gaudi 2 Comparar | 96GB HBM2E (6× HBM2E stacks) | Módulo OAM: TDP de 600W |
| Intel Data Center GPU Max 1550 Comparar | 128GB HBM2e (cada Xe-Stack com stacks HBM2e independentes; teste STREAM real de uma placa na Aurora: 2,1TB/s) | TDP de 600W (ARK oficial; configuração real do ECP da Aurora: 500W sustentados pela GPU em um balanceamento de 4kW CPU/GPU) |
| Intel Data Center GPU Max 1100 Comparar | 48GB HBM2e (ARK oficial; configuração dos nós do SURF registrada como 'Max 1100 48G XeLink') | 300W TDP |
Vídeo explicativo VIDEO
Pontos de compra e inspeção
- Atenção às restrições de formato e refrigeração: a versão OAM HL-325L usa refrigeração passiva, e a versão PCIe HL-338 também é passiva; antes da compra, confirme se o fluxo de ar do rack, os dutos de ventilação e a organização do fluxo atendem às necessidades térmicas da placa. Em nós fechados de alta densidade, avalie a compatibilidade com soluções refrigerado a líquido
- Confirme as condições de rede do data center: a interconexão do produto é baseada em 200GbE RoCE e a base HLB-325 se conecta externamente por 6 portas OSFP800; planeje com antecedência switches Ethernet, módulos ópticos e cabeamento — não é necessário nenhum ecossistema proprietário fechado de interconexão
- Na inspeção, confira as informações do white paper: a documentação técnica oficial (doc 817486) não traz campos de desempenho esparso nem Largura do barramento de memória; se o fornecedor citar métricas esparsas, exija a indicação das condições de teste. Confirme também se o slot PCIe Gen5 X16 no host e a alimentação atendem aos requisitos da placa
Perguntas frequentes
Quanto o Intel Gaudi 3 melhora em relação à geração anterior, o Gaudi 2?
Segundo os dados divulgados pela Intel na Vision 2024, o Gaudi 3 oferece 4 vezes a capacidade de IA BF16 e 1,5 vezes a largura de banda de memória do Gaudi 2, além de migrar do processo de 7 nm para 5 nm e adotar a nova arquitetura de dois dies interligados por interposer.
Qual a diferença entre a versão OAM e a versão PCIe do Gaudi 3?
A versão OAM (HL-325L) é voltada a nós de cluster de alta densidade: as placas se interconectam totalmente por 21 links entre OAMs e formam um sistema de 8 placas sobre a base HLB-325, com 24 vias 200GbE RoCE para o exterior. A versão PCIe (HL-338) usa a interface padrão PCIe CEM 5.1 e pode ser inserida diretamente em servidores comuns, com maior flexibilidade de rede e implantação, mas com topologia de interconexão e densidade inferiores à solução OAM.
Que ambiente de rede o Gaudi 3 exige? Depende de protocolos de interconexão proprietários?
O Gaudi 3 usa nativamente interconexão RoCE sobre Ethernet: cada OAM oferece 24 vias de 200GbE (implementadas por 48 SerDes 112G PAM4), das quais 21 servem à interconexão entre OAMs e 3 à expansão externa. Isso permite construir clusters com switches Ethernet padrão, sem depender de ecossistemas proprietários fechados, mas exige switches com suporte a 200GbE RoCE e os recursos ópticos correspondentes.
Conteúdo atualizado em 2026-10-10 · Para aprofundar, siga a Ficha em profundidade
Política editorial fluxo