SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典
スペックカード SPEC CARD

NVIDIA H100 NVL

1枚94GB HBM3、2枚をNVLinkブリッジで188GBに。70BクラスLLM推論に特化したカード、350〜400Wの空冷2スロットでハウジングも容易、AI Enterpriseが同梱、中古市場で避けて通れない準フラッグシップ
NVIDIA H100 NVL メーカー公式画像
NVIDIA メーカー公式画像

概要

NVIDIA H100 NVLは、NVIDIAがHopperアーキテクチャベースで投入したPCIeフォームファクタのデータセンターGPUで、大容量メモリを要する推論用途に向けた準フラッグシップモデルとして位置づけられています。1枚あたり94GBのHBM3メモリを搭載し、NVLinkブリッジによって2枚を組み合わせて188GBの統一メモリプールを構成できるため、大パラメータ数の言語モデルの推論ワークロードに適しています。空冷2スロット設計でTDPは一定範囲で設定可能であり、標準的なラック環境への導入が容易です。カード間はNVLinkにより双方向600GB/sのインターコネクト帯域を提供し、PCIe Gen5のホストインターフェースにも対応します。NVIDIA AI Enterpriseソフトウェアスイートが同梱されており、エンタープライズ向けAI推論・デプロイのニーズをカバーします。

主要スペック

アーキテクチャNVIDIA Hopper
メモリ94GB
メモリタイプHBM3
メモリ帯域幅3.9TB/s
FP64演算性能30 teraFLOPs
FP64 Tensor Core60 teraFLOPs
FP32演算性能60 teraFLOPs
FP8演算性能3,341 teraFLOPS
FP16演算性能1,671 teraFLOPS
INT8演算性能3,341 TOPS
消費電力 TDP350-400W (configurable)
インターコネクトNVIDIA NVLink: 600GB/s | PCIe Gen5: 128GB/s
フォームファクターPCIe dual-slot air-cooled
MIGスライスUp to 7 MIGS @ 12GB each
コーデック7 NVDEC | 7 JPEG
スペックは公式資料に基づき検証済み(公式ベンチマーク、2026-10-09更新)· 実際の価格は出品者の提示価格によります

適用シーン

同族モデル

型番メモリ消費電力
NVIDIA T4 比較16GB GDDR6 with ECC(デフォルト有効)70W(基板全体の消費電力、デフォルト)
NVIDIA A100 比較40GB HBM2/80GB HBM2e の2バージョン(80GB版は2020-11-16 SC20で追加発表)、ECC搭載SXM4 400W(40GB/80GB共通);PCIe版は40GBが250W/80GBが300W
NVIDIA H20 比較96GB HBM3(Flopper/VipraTech/騰訊ニュースの3ソースで一致)TDP 400W(Flopper/VipraTechスペック表/騰訊ニュースの『熱設計電力400W』で3ソース一致;VipraTech本文には350Wという矛盾する記載があるため不採用)
NVIDIA GB300 比較288GB HBM3e(1 GPUパッケージあたり;スーパーチップで576GB;HGX基板レベルで2.1TB/ラックで20TBという表記が併存)TGP 最大 1400W
NVIDIA A30 比較24 GB HBM2165 W
NVIDIA GeForce RTX 4090 比較24GB GDDR6X450W TGP(平均ゲーム時315W、推奨システム電源850W)

動画解説 VIDEO

関連記事:H100 · 深掘り項目

調達・検品のポイント

よくある質問

H100 NVLと通常のPCIe版H100の違いは?
H100 NVLはPCIeフォームファクタのH100バリエーションで、主な違いはNVLinkブリッジ対応を備えている点です。2枚をブリッジして188GBの統合メモリプールを構成でき、カード間の大容量メモリが必要な推論シーン向けに設計されています。一方、標準PCIe版には通常、出荷時のブリッジソリューションは付属しません。いずれもHopperアーキテクチャベースです。
1枚94GBで大規模モデルは動く? いつ2枚ブリッジが必要?
モデルのパラメータ数と量子化方式によります。1枚のメモリではモデルウェイトにKV Cacheなどの実行時オーバーヘッドを加えた容量が収まらない場合、NVLinkブリッジで2枚のH100 NVLを接続し188GBの統合メモリを確保できます。ブリッジ後のメモリプールはNVLinkの600GB/s帯域で接続され、PCIe Gen5経由のマルチGPU構成よりも通信効率が高くなります。
H100 NVLはレンタルやハウジングに向いている? MIGの用途は?
向いています。標準的なPCIe空冷2スロット設計で、設定可能なTDPにより通常のラックサーバーに導入でき、ハウジングのハードルは比較的低めです。MIG機能により1枚を最大7個の独立インスタンスに物理分割でき、各インスタンスに12GBのメモリが割り当てられ、相互に分離されます。クラウド事業者やチームが1枚を複数テナントや複数の軽量推論タスクに分配するのに適しています。
関連読み:H100-NVL 深掘り項目 · 深掘り項目H100 vs H100-NVL · 深掘り項目H200-NVL vs H100-NVL · 深掘り項目NVIDIA A10 · 深掘り項目NVIDIA A100 · 深掘り項目
資料更新 2026-10-09 · 深掘り項目を見る 編集ポリシー 手順
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作