HBM(High Bandwidth Memory)は、DRAMダイを垂直に積層しGPUと超短距離で接続するメモリで、JEDECによって標準化されている。HBM2は2016年に確定、HBM2eでスタックあたり16GBに到達。HBM3は2022年に発表され、ピンあたり速度が倍増して6.4Gb/sに。HBM3eでは9.6Gb/s・スタックあたり36GBへ。HBM4標準は2025年に発表され、インターフェースは2048-bitに拡張、スタックあたり2TB/s(JEDEC公表値)。
AIサーバーにとって、メモリの世代は「1枚のカードにどれだけ大きなモデルを載せられるか」を直接左右する。A100 80GB HBM2e、H100 80GB HBM3、H200 141GB HBM3e、B300 288GB HBM3e——4世代にわたり容量と帯域がともに向上してきた(NVIDIA公式スペックページ公表値、帯域は2039GB/sから4.8TB/s)。メモリ世代は中古市場での流通の分水嶺でもある。同じ80GB表記でも、HBM3とHBM2eは一代違いの製品であり、価格差は世代ごとに開く。
| 項目 | 数値 / 基準 |
|---|---|
| HBM2 / HBM2e | ピンあたり最大 3.2 → 3.6 Gb/s · スタックあたり 8 → 16GB(JEDEC公表値/SKハイニックス 2020年量産) |
| HBM3(2022-01 発表) | ピンあたり 6.4 Gb/s · H100 80GB、3.35TB/s(JEDEC/NVIDIA公式) |
| HBM3e | ピンあたり 9.6 Gb/s · 12層スタックで36GB(SKハイニックス 2024-09 世界初量産) |
| HBM4(2025-04 発表) | JESD270-4 · インターフェース 2048-bit · スタックあたり最大 2TB/s(JEDEC公式) |
B300の1枚288GB HBM3eは、まさにこの系譜における現時点の商用頂点だ。公式発表ではメモリ容量が前世代(192GB HBM3e)からさらに5割増し(NVIDIA GB300 NVL72公式ページ)、8枚のNVL8合計で約2.3TB——FP8換算で671Bパラメータのフルスペック大規模モデルを余裕を持って搭載できる。見積もりを読む際はまずメモリ世代を確認したい。同じ288GBでも、HBM3eとHBM4は2026年の市場で並行して存在し始めており、プラットフォームの価値と相場は世代ごとに分かれる。
検品の視点:HBMスタックはHBM供給大手3社(SKハイニックス/サムスン/マイクロン)の純正製品であり、世代の判別はシルク印刷と公式ファームウェアのレポート照合で行い、旧世代を新世代として売らないことを防ぐ必要がある。A100世代のHBM2eとH100/H200世代のHBM3/HBM3eは外観が似ているが相場の価格差は2倍以上あり、世代をまたいだ誤った表記は中古市場でよくある落とし穴だ。