
CUDANVIDIA の並列コンピューティングプラットフォームとプログラミングモデル:2006 年 11 月に GeForce 8800(G80、統一シェーダアーキテクチャ)とともに登場——GPU を「グラフィックスプロセッサ」から「汎用並列コンピューティングプロセッサ」へ変え、開発者は C 言語風の記述で直接 GPU プログラムを書けるようにした(NVIDIA CUDA 公式ページの説明[1])。今日では AI コンピューティング世界のデファクトスタンダードであり、PyTorch、TensorFlow、vLLM の下で、ほぼすべての主要 AI フレームワークの GPU バックエンドが CUDA の上に載っている。
CUDA は単なる「ドライバ」ではない——それは三層ソフトウェアスタックである。最下層はドライバとハードウェア命令セット(カードの「Compute Capability」バージョンで決まる)、中間層は CUDA Toolkit(nvcc コンパイラ、ランタイム)と CUDA-X ライブラリファミリー(cuBLAS/cuDNN/NCCL など[2][3])、最上層はフレームワークと自社開発アプリケーションである。カード選定で語られる「Compute Capability」(例:H100=9.0、Blackwell=10.0)は CUDA 世界におけるハードウェア世代を意味する——中古カードの検品とフレームワーク互換性を判断する第一の対照パラメータだ(公式対照表の説明[4])。
調達担当者にとって、CUDA が意味する実際的な事柄は二つある:エコシステムのロックイン(CUDA の大量生産ラインから ROCm/oneAPI への移行には現実のコストがかかる。詳しくは「限界と論争」参照)と、バージョン互換性(フレームワークが要求する CUDA バージョン vs カードのドライバと Compute Capability。中古カード検品の必須確認項目)。本項目はソフトウェア概念の項目であり、各機種項目と相互に補完し合う関係にある。
AIXX Index(0–100):エコシステム適合度を加重して見積もった値(ソフトウェア概念項目の専用指標)。
2006 年 11 月、CUDA は GeForce 8800(G80)とともに登場:統一シェーダアーキテクチャにより GPU のストリームプロセッサが汎用並列プログラムからスケジュール可能となり、「Compute Unified Device Architecture」の名がここに確立された(NVIDIA CUDA 公式ページと公開技術史の説明[1])——GPU 汎用計算(GPGPU)は学術的テクニックからエンジニアリングプラットフォームへ変わった。
2012〜2016 年、深層学習の爆発期:AlexNet は GTX 580 を 2 枚使って優勝し(公開技術史の説明)、CUDA-GPU は深層学習の標準的な算力となった——cuDNN などの専用ライブラリが相次いで成熟し、CUDA-X ライブラリファミリーが形成された(cuDNN 公式ページ[2])。
2017〜2022 年、データセンター化:Volta(Compute Capability 7.0)が Tensor Core を導入し、CUDA はコンシューマーカードからデータセンターの主戦場へ。NCCL 集合通信ライブラリはマルチ GPU トレーニングの標準部品となった(NCCL 公式ページ[3])。A100(8.0)と H100(9.0)の時代、CUDA バージョンとフレームワークエコシステムの結びつきはますます深まった。
2023〜2026 年、Blackwell の時代:Compute Capability は 10.0 世代に入り(公式対照表の説明[4])、FP4/FP8 の新精度が CUDA スタックでネイティブサポートされた。同時に ROCm(AMD)と oneAPI(Intel)が代替ルートとして追い上げを続けている——CUDA のエコシステム支配と代替勢力の綱引きは、2026 年の算力選定の背景である(詳しくは「限界と論争」参照)。
Compute Capability(略称 CC/sm_XX)は CUDA 世界の「ハードウェア世代」——カードがどの命令セットを動かせるか、フレームワークとドライバがどう適合するかを決める。当ライブラリ取扱機種の CC 対照(NVIDIA 公式対照表を正とする[4]):
| 機種 | アーキテクチャ | Compute Capability | 当ライブラリの項目 |
|---|---|---|---|
| B300 / GB300 系(Blackwell Ultra) | Blackwell Ultra | 10.x 世代(公式表を参照) | B300 |
| B200 / GB200 系(Blackwell) | Blackwell | 10.0 | GB200 NVL72 項目 |
| H100 / H200 / H20(Hopper) | Hopper | 9.0 | H200 |
| L40S / L40 / L20(Ada) | Ada Lovelace | 8.9 | L40S |
| A100 / A800(Ampere) | Ampere | 8.0 | A100 |
| RTX 6000 Ada / A 系ワークステーションカード | Ada / Ampere | 8.9 / 8.6 | RTX 6000 Ada スペックカード |
全量の完全対照(コンシューマーカード/プロ用カードの全機種を含む)は NVIDIA 公式 CUDA GPUs ページを正とする[4];「公式表を正とする」=本表は当ライブラリの取扱機種のみ掲載。Blackwell Ultra の正確なマイナーバージョンは公式表の更新を基準とし、推測しない。
検品シーンのクイックチェック:中古カードが届いたらまず nvidia-smi -q を実行し、ドライバと CUDA Version(ドライバが対応する CUDA の上限)を確認、さらにカードの Compute Capability と突き合わせる——フレームワークの要求(例:PyTorch ビルド時の CUDA バージョン)とカードの CC が一致して、初めて「このカードは生産ラインに入れる」と判断できる。
| ライブラリ | 役割 | 利用者 |
|---|---|---|
| cuBLAS | 線形代数(行列積など)——深層学習の算術基盤 | すべてのトレーニング/推論フレームワーク |
| cuDNN | 深層学習プリミティブのアクセラレーション(畳み込み/注意機構など、公式ページの説明[2]) | トレーニングと推論フレームワークのオペレータ基盤 |
| NCCL | マルチ GPU・マルチノード集合通信(AllReduce など、公式ページの説明[3]) | 分散トレーニングの通信基盤 |
| CUDA-X Data Science / AI など | データ処理、レコメンド、量子化などの垂直ライブラリ群(CUDA-X 公式の説明) | データパイプラインと垂直シーン |
| nvcc / Nsight ツールチェーン | コンパイラとプロファイリング(Toolkit 構成要素、公式ドキュメントの説明[6]) | 自社開発オペレータの開発とチューニング |
CUDA-X は NVIDIA による GPU アクセラレーションライブラリ群の総称(公式の説明);各ライブラリのバージョンと CUDA Toolkit のバージョンには対応マトリクスがある——アップグレード前に必ず対応表を確認すること(公式ドキュメントの説明[6])。
| 用途 | ルール | 検品上の意味 |
|---|---|---|
| ドライバ vs CUDA | ドライバのバージョンが対応する CUDA の上限を決める(下位互換あり) | 中古カードでは nvidia-smi 右上の CUDA Version=ドライバの能力上限であり、インストール済み Toolkit のバージョンとは別物 |
| Toolkit vs Compute Capability | 新しい Toolkit は新しい CC をサポート;旧 Toolkit のコンパイル成果物は新カードで動かす場合再コンパイルが必要なことがある | フレームワークイメージの CUDA バージョンとカード CC の一致——旧フレームワークを新カードで動かす場合(例:CUDA 11.x イメージで Blackwell)は互換性の経路を確認すること |
| Forward Compatibility | データセンター向けの特定のドライバ機構により、新カードで旧 CUDA バイナリを動かせる(公式ドキュメントの説明[6]) | データセンターカード(Tesla/データセンター系)の互換性特典——具体的な使い方は公式ドキュメントに従い、記憶頼みの操作はしないこと |
互換マトリクスはバージョンとともに進化し、NVIDIA 公式ドキュメントを正とする[6];本表は意思決定の方向性を示すものであり、操作マニュアルではない。
CUDA はソフトウェアプラットフォームのためハードウェアギャラリーはなし。ソフトウェアスタックの図解は「技術仕様」節を参照。公式ロゴ等の素材は NVIDIA 公式リリースを正とする。
| 項目 | 現状 |
|---|---|
| 入手 | CUDA Toolkit は NVIDIA 公式ダウンロードページから配布(公式の説明[5])。ドライバと Toolkit は別々にインストール |
| フレームワークサポート | PyTorch / TensorFlow / JAX / vLLM / TensorRT などが CUDA を主要 GPU バックエンドとして使用 |
| コンテナ化 | NVIDIA Container Toolkit——フレームワークイメージは CUDA ランタイムを同梱し、ホスト側はドライバだけを管理 |
| 競合 | AMD ROCm(HIP エコシステム)、Intel oneAPI(SYCL 系)——フレームワーク対応度とオペレータカバレッジは追い上げ中(詳しくは限界と論争参照) |
| コード資産 | 二十年にわたる CUDA コードの蓄積(論文の再現/オープンソースリポジトリ/自社開発オペレータ)は移行コストの中核を構成する |
エコシステム情報は公開情報に基づく整理;バージョンとサポートマトリクスは時間とともに変化し、NVIDIA 公式リリースを正とする。
カード購入時の CUDA 関連チェック三項目(機種項目のハードウェア検品と相互補完):
nvidia-smi -q:ドライバのバージョンと CUDA 上限、カード型番とメモリを出品者の説明と照合——クラウド専用カード(vGPU ライセンス状態)はこの段階で正体を現す。ハードウェア側の六項目のストレステストは各機種項目を参照(例:A100/B300 項目);本節はソフトウェア視点のみを扱う。
CUDA 視点による中古カード四ステップクイックチェック(ハードウェアのストレステストと併用):
nvidia-smi -q:カード型番、ドライババージョン、CUDA Version 上限、VBIOS——出品者の説明と一項目ずつ照合。torch.cuda.get_device_capability():CC を公式表と照合[4]——偽装カードは CC で正体を現す。CUDA 世界におけるハードウェア世代(例:8.0/9.0/10.0):カードの命令セットと機能を決定します——フレームワークとコンパイラは CC に応じてコードを生成・選択します。検品時に CC を公式对照表と照合することは、偽装カードを見抜く確実な手段です(公式对照表は[4])。
CUDA C++ のコンパイラ(CUDA Toolkit のコンポーネント):カーネル関数を特定の CC 向けの GPU バイナリにコンパイルします——「コンパイルターゲットの CC」がどのカードで動くかを決めます。
Volta 以降に導入された行列演算ユニット:混合精度学習のハードウェア基盤です——各世代の Tensor Core の新精度(FP16→BF16→FP8→FP4)はいずれも CUDA スタックで初めてサポートされ、「CUDA バージョンがハードウェアを追いかける」典型例となっています。
二つの代替ルート:AMD ROCm(HIP 構文は CUDA に近く、移行ツールチェーンの成熟度が継続的に向上)、Intel oneAPI(SYCL によるベンダー横断ルート)——演算子カバレッジとチューニング人材こそが CUDA との差です(公開ベンチマークの共识に基づく見解)。
CUDA の互換ルール:新しいドライバは旧 CUDA をサポート(後方互換、常態);データセンターカードは特定の仕組みで新カードが旧 CUDA バイナリを動かせます(前方互換、公式ドキュメントの見解[6])——バージョンをまたぐ展開の前には公式ドキュメントを確認し、記憶に頼らないこと。
別物です:ドライバはシステムにカードを認識させる低レイヤソフト;CUDA は並列計算プラットフォーム(Toolkit コンパイラ+ランタイム+CUDA-X ライブラリ一式)です。nvidia-smi 右上の「CUDA Version」はドライバが対応する CUDA の上限を示し、インストール済み Toolkit のバージョンではありません——両者はしばしば混同されます。
Compute Capability(CC)がカードで動く命令セットとフレームワーク機能を決定します:CC が古すぎれば新フレームワークは動かず、CC がカード型番と一致しなければ偽装カードの可能性——公式表と照合して CC を確認する(例:A100=8.0/H100=9.0/Blackwell=10.0)ことは中古カード検品の確実な手段です。
三段構え:ドライバを更新(CUDA 上限を引き上げ)、カードの CC に合ったフレームワークイメージに変更(コンテナはランタイム同梱)、データセンターカードは公式の前方互換機構を確認。具体的な組み合わせは NVIDIA 公式ドキュメントを基準にし、記憶に頼ってバージョンをまたいで無理に組み合わせないこと。
場面によります:主流フレームワーク(PyTorch など)の一般的なモデルは ROCm で動作し、CUDA に近い HIP 構文の移行ツールも成熟しつつあります;ただし演算子カバレッジ、チューニング人材、二十年分のコード資産では CUDA に差があります——新規ラインでは評価の価値あり、既存 CUDA ラインの移行は人月で総勘定を。
CUDA SDK は NVIDIA の配布規約に基づきライセンスされ、その中に非 NVIDIA ハードウェア上でのトランスレート実行に対する制限条項があります(公然の議論に基づく見解)——通常の「NVIDIA カード上で CUDA を実行」には影響しません;クロスプラットフォームのトランスレートに関わるコンプライアンス問題は法務意見に従ってください。本ライブラリの記述は法的助言を構成しません。