AIXX 百科 › 技術コンセプト › Tensor Core テンソルコア
Tensor Core は NVIDIA Volta アーキテクチャ(2017)で導入された専用の行列演算ユニットです。各 Tensor Core は 1 クロックサイクルで 4×4 行列乗算を実行します。解決する課題は一つ:深層学習の中核演算は行列乗算(GEMM)であり、汎用 CUDA コアでの行列乗算は効率が低い。Tensor Core はまさにこのために設計されました。
世代ごとに対応精度が進化しています:第 1 世代(Volta)FP16;第 2 世代(Turing)INT8/INT4;第 3 世代(Ampere)BF16/TF32;第 4 世代(Hopper)FP8;第 5 世代(Blackwell)FP4。新精度の追加ごとに「同じ面積により多くの演算力を詰め込む」ことが可能になり、これが B300 の FP4 演算力が爆発的に増加した根本的な要因です。
| 項目 | 数値 / 基準 |
|---|---|
| 第 5 世代(Blackwell) | FP4/FP6/FP8/FP16/BF16/TF32/FP64 |
| FP4 演算力(B300) | 約 15 PFLOPS デンス / スパースはさらに高く |
| FP8 演算力(H100) | 3,341 TFLOPS(スパース) |
| 世代数 | 第 5 世代(Blackwell) |
B300 の第 5 世代 Tensor Core は FP4 と FP6 精度をネイティブサポートします。大規模モデルの推論は FP4 に量子化しても精度がほとんど落ちず、同じシリコン面積で FP8 の 2 倍の演算力を詰め込めることを意味します。購入者がスペックを確認する際の注意点:NVIDIA の公表する FP4 演算力はスパース値であり、デンス値はその半分です。実際の推論スループットはフレームワークの量子化対応状況(TensorRT-LLM / vLLM など)に左右されます。