SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典
スペックカード SPEC CARD

Intel Gaudi 3

Intel の現行 AI アクセラレーターフラッグシップ(2024 Vision 発表)。イーサネット ネイティブの RoCE インターコネクトにより NVLink のクローズドエコシステムに対抗する第三勢力の演算カードで、IBM Cloud や Dell XE9680 で実際に採用済み。百科としてのベンダーカバーを補完する

概要

Intel Gaudi 3 は Intel が大規模 AI 学習・推論向けに投入したアクセラレーター製品ラインで、TSMC 5nm プロセスとデュアルダイ構成を採用し、同一の演算ダイ 2 個をインターポーザーでブリッジした高帯域・低レイテンシの接続により協調動作する。MME 行列エンジンは BF16 と FP8 のいずれでも 1678 TFLOPS の演算性能を発揮し、64 個の TPC ユニットと 8 個の MME ユニットを備える。メモリは 128 GB HBM2e(16GB スタック 8 個)で、加えて 96 MB のオンチップ SRAM を搭載。ネイティブのイーサネット RoCE インターコネクトを特徴とし、OAM(HL-325L)と PCIe(HL-338)の 2 形態を提供。大規模モデルの学習、推論デプロイ、データセンタークラスタの拡張などを主な用途とする

主要スペック

アーキテクチャGaudi 3(第5世代ヘテロジニアス AI アクセラレーターアーキテクチャ。同一仕様の演算ダイ 2 個をインターポーザーでブリッジしソフトウェア的に透過、TSMC 5nm)
メモリ128GB HBM2e(8×16GB スタック、3.6GHz、2 ダイの統一アドレッシング)
メモリ帯域幅3.7 TB/s ピーク
演算性能MME行列: FP8 1678 / BF16 1678 / FP16(符号付き) 459 / TF32 459 / FP32 229 TFLOPS; TPCベクトル: FP8 57.3 / BF16 28.7 / FP16 28.7 / FP32 14.3 TFLOPS
演算エンジン8× MME(各MME 64K MACs)+ 64× TPCコア(双ダイ合計)
オンチップSRAM96MB(12.8/6.4 TB/s 読み/書き)
消費電力OAM HL-325L:900W TDP(パッシブ冷却;液冷も 900W)|PCIe HL-338 カード:600W TDP(パッシブ冷却)
インターコネクト24× 200GbE RoCE(双方向合計1200GB/s、48×112G PAM4 SerDes 経由; カードあたりGPU間インターコネクト21ポート+スケールアウト3ポート)+ PCIe Gen5 x16 ホストインターフェース(128GB/s、一方向64GB/s)
メディアデコード14基のメディアデコーダー
フォームファクターOAM HL-325L(OCP OAM 2.0 メザニン)/ PCIe HL-338 カード(CEM 5.1)/ HLB-325 汎用ベースボード(8カード all-to-all フルメッシュ、6× OSFP800 スケールアウト)
発売年2024(2024-04-09 Intel Vision で発表、2024年第2四半期に OEM 出荷)
スペックは公式資料に基づき検証済み(公式ベンチマーク、2026-10-10 更新)· 実際の価格は出品者の提示価格によります

適用シーン

同族モデル

型番メモリ消費電力
Intel Gaudi 2 比較96GB HBM2E (6× HBM2E stacks)OAM モジュール:600W TDP
Intel Data Center GPU Max 1550 比較128GB HBM2e(各 Xe-Stack に独立した HBM2e スタックを搭載;Aurora の単卡 STREAM 実測 2.1TB/s)600W TDP(ARK 公式;Aurora ECP の実構成は CPU/GPU 合計 4kW のバランス設定で GPU 持続 500W 相当)
Intel Data Center GPU Max 1100 比較48GB HBM2e(ARK 公式;SURF ノード構成は「Max 1100 48G XeLink」と記載)300W TDP

動画解説 VIDEO

調達・検品のポイント

よくある質問

Intel Gaudi 3 は前世代の Gaudi 2 と比べてどの程度向上しているのか?
Intel が Vision 2024 で公表した内容によると、Gaudi 3 は Gaudi 2 対比で BF16 AI 演算性能 4 倍、メモリ帯域 1.5 倍の向上を実現し、プロセスも Gaudi 2 の 7nm から 5nm に刷新され、アーキテクチャは 2 つのダイをインターポーザーで接続する設計に変更された。
Gaudi 3 の OAM 版と PCIe 版の違いは?
OAM 版(HL-325L)は高密度クラスタノード向けで、カード間を 21 組の OAM 間リンクでフルメッシュ接続し、HLB-325 ベースボードで 8 カードシステムを構成、外部には 24 レーン 200GbE RoCE を提供する。PCIe 版(HL-338)は標準の PCIe CEM 5.1 インターフェースを採用し、汎用サーバーに直接挿入できるため、ネットワーク構成とデプロイの自由度は高いが、インターコネクトトポロジと密度は OAM 構成に及ばない。
Gaudi 3 の利用に必要なネットワーク環境は?専用インターコネクトプロトコルへの依存はあるか?
Gaudi 3 はネイティブでイーサネット RoCE インターコネクトを採用し、各 OAM は 24 レーンの 200GbE(48 レーンの 112G PAM4 SerDes で実現)を備え、うち 21 レーンが OAM 間接続、3 レーンが外部拡張に使用される。つまり標準的なイーサネットスイッチでクラスタを構築でき、クローズドな専有インターコネクトエコシステムに依存しないが、200GbE RoCE 対応のスイッチと相应的光接続リソースを用意する必要がある。
関連読み:Intel Data Center GPU Max 1100 · 深掘り項目Intel Data Center GPU Max 1550 · 深掘り項目AIXX Pedia · 深掘り項目
資料更新 2026-10-10 · 深掘り項目は 編集ポリシー 手順
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作