スペックカード SPEC CARD
NVIDIA GeForce RTX 3090
24GBの大容量VRAMを備えたコンシューマーカード、中古市場での流通の王者: AI推論とGPUレンタル市場で圧倒的な保有数を誇る一枚。24GB VRAM+FP32 35.6 TFLOPSで中小モデルの推論から大モデルの量子化推論までカバーし、中古の在庫が豊富で価格も透明。30シリーズで発売当初から唯一(後発の3090 Tiとともに)NVLink 3.0の双方向112.5GB/sを維持しており、2枚のブリッジ接続で48GBのVRAMプールを構築して小規模学習や大容量VRAM推論が可能で、レンタル用途での差別化ポイントになる。350Wの消費電力はレンタルサーバー室の電源設計にも優しい。MSRP $1,499
概要
NVIDIA GeForce RTX 3090は、Ampereアーキテクチャ(GA102コア)ベースのフラッグシップコンシューマーGPUで、24GBのGDDR6Xメモリと384ビット幅を搭載し、FP32性能は35.6 TFLOPS、第3世代Tensor Coreと第2世代RT Coreを備える。24GBの大容量VRAMと中古市場での流通量の多さから、AI推論やGPUレンタルの分野で幅広く活用されている。また、30シリーズで数少ないNVLink 3.0(双方向112.5 GB/s)対応のモデルであり、ブリッジ接続によるVRAMの統合が可能で、中小モデルの推論から大モデルの量子化推論まで幅広いユースケースをカバーする。
主要スペック
| アーキテクチャ | Ampere (GA102-300, 82 SM) |
| メモリ | 24GB GDDR6X |
| メモリ帯域幅 | 936GB/s (19.5Gbps x 384bit) |
| メモリバス幅 | 384bit |
| 演算性能 | FP32 35.6 TFLOPS / Tensor 142 TFLOPS [284スパース] |
| CUDAコア | 10496 (82 SM) / Tensor Core 328 (第3世代) / RT Core 82 (第2世代) |
| 消費電力 | 350W TGP (推奨システム電源750W) |
| インターコネクト | PCIe Gen4 x16 + NVLink 3.0 双方向112.5GB/s (30シリーズで発売当初から唯一NVLinkを維持したコンシューマーカード、後発の3090 Tiと同様。40シリーズ以降は廃止) |
| 発売年 | 2020 (2020-09-01発表、2020-09-24発売、MSRP $1,499) |
| クロック | Base 1.40GHz / Boost 1.70GHz |
| プロセス | Samsung 8N、283億トランジスタ、628.4mm² (GA102フルスペックは84 SM:10752 CUDA、3090は82を有効化) |
| メディアエンジン | 第7世代NVENC / 第5世代NVDEC |
| 映像出力 | HDMI 2.1 + DP 1.4a x3、4画面対応、HDCP 2.3、7680x4320 |
| フォームファクター | FEは3スロット 313x138mm、補助電源 2x8pin (1x12-pin変換ケーブル同梱)、750W電源が必要 |
| CUDAコンピュート能力 | Compute Capability 8.6 |
スペックは公式資料に基づき検証済み(
公式ベンチマーク、2026-10-10 更新)· 実際の価格は出品者の提示価格によります
適用シーン
- 中小パラメータモデルのローカル推論サービス構築。24GB VRAMで推論ウェイトとKVキャッシュ全体を収容可能
- 大モデルの量子化(INT8/INT4などの低精度フォーマット)推論。VRAMが制約となる場合に実現可能なオフライン・オンライン推論ソリューションを提供
- NVLink 3.0ブリッジによるVRAM統合構成。小規模学習や1枚のVRAMを超える大容量VRAM推論タスクに対応
- 個人開発者や大学研究室の深層学習実験環境。CUDA Capability 8.6により主要フレームワークと演算子に対応
同族モデル
| 型番 | メモリ | 消費電力 |
|---|
| NVIDIA T4 比較 | 16GB GDDR6 with ECC(デフォルト有効) | 70W(基板全体の消費電力、デフォルト) |
| NVIDIA A100 比較 | 40GB HBM2/80GB HBM2e の2バージョン(80GB版は2020-11-16 SC20で追加発表)、ECC搭載 | SXM4 400W(40GB/80GB共通);PCIe版は40GBが250W/80GBが300W |
| NVIDIA H20 比較 | 96GB HBM3(Flopper/VipraTech/騰訊ニュースの3ソースで一致) | TDP 400W(Flopper/VipraTechスペック表/騰訊ニュースの『熱設計電力400W』で3ソース一致;VipraTech本文には350Wという矛盾する記載があるため不採用) |
| NVIDIA GB300 比較 | 288GB HBM3e(1 GPUパッケージあたり;スーパーチップで576GB;HGX基板レベルで2.1TB/ラックで20TBという表記が併存) | TGP 最大 1400W |
| NVIDIA A30 比較 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 比較 | 24GB GDDR6X | 450W TGP(平均ゲーム時315W、推奨システム電源850W) |
動画解説 VIDEO
調達・検品のポイント
- 本カードは3スロット設計(Founders Editionサイズ313mm x 138mm)のため、購入前にケースとマザーボードのスロット間隔を確認する必要がある。マルチGPU構成ではスロット間隔とエアフローがとくに重要。補助電源はPCIe 8-pin x 2が必要(1x 12-pin変換ケーブル同梱)で、サーバー室の配線はカードのフルロード時の消費電力に基づいて余裕を持たせ、システム電源はメーカー推奨以上を推奨
- NVLink対応版を選び、ブリッジが付属または別購入可能かを確認すること。VRAM統合構成を計画する場合は、マザーボードとブラケットのブリッジ互換性を確認が必要。なお、GA102コアにはGA102-300とGA102-250の2種類のバッチが存在するため、検品時はソフトウェアでCUDAコア数(10,496)とSM数(82)を確認するとよい
- 中古検品のポイント: メモリチップと電源モジュールに高負荷稼働の痕跡がないかを確認し、負荷テストで温度(上限93°C)とクロック低下の挙動を観察する。映像出力がHDMI 2.1 + 3x DP 1.4aで端子が無事であることを確認。PCIe Gen 4 x16リンクのネゴシエーションが正常かを確認し、マイニングカードのリフレッシュ品やVRAM故障品を避ける
よくある質問
RTX 3090の24GB VRAMで大モデルの推論はできる?
FP16精度のモデルであれば、24GBで中小パラメータモデルの推論全体をカバーできる。より大きなパラメータのモデルでは、通常INT8やINT4などの量子化手法でウェイトを圧縮してからデプロイする必要がある。なお、本カードはNVLink 3.0(双方向112.5 GB/s)を維持しており、2枚のブリッジ接続でVRAMプールを統合し、実行可能なモデル規模を拡張できる。
RTX 3090はNVLinkで2枚構成して学習できる?
可能。RTX 3090は30シリーズでNVLinkに対応するモデルの一つで、NVLink 3.0は双方向112.5 GB/sのインターコネクト帯域を提供する。ブリッジ接続により2枚のVRAMを統合して使用でき、小規模な学習タスクや1枚のVRAM容量を超える推論ワークロードに適する。なお、別途NVLinkブリッジが必要で、ブラケット間隔の適合確認も必要。
中古RTX 3090の検品で注意すべき点は?
確認すべきポイント: まずGPU-Zなどのツールでスペックが正規かを確認する(CUDAコア10,496、SM 82、24GB GDDR6X、384ビット幅)。次にVRAMとコアの持続的なストレステストを行い、温度(上限93°C)の異常やクロック低下・表示乱れがないかを観察する。最後に補助電源端子(2x PCIe 8-pin)と映像出力端子の状態、PCIe Gen 4 x16リンクのネゴシエーションが正常であることを確認する。
資料更新 2026-10-10 · 深掘り項目は
編集ポリシー 手順