スペックカード SPEC CARD
NVIDIA L40S
Ada世代48GBシングルカードで推論/レンダリング/Omniverseをこなすオールラウンダー。FP8スパース1,466TF+AV1エンコード/デコードに対応し、現在国内の現貨流通量が最も多い大容量メモリAdaカードの一つ

NVIDIA メーカー公式画像
実写
実写画像
概要
NVIDIA L40SはAda LovelaceアーキテクチャベースのPCIe厚2スロットのデータセンターGPUで、48GB GDDR6メモリ(ECC付き)と864GB/sのメモリ帯域を搭載し、PCIe Gen4 x16経由で双方向64GB/sの接続を提供します。CUDAコア18,176個、第3世代RT Core 142個、第4世代Tensor Core 568個を備え、FP8 Tensor Core性能は最大1,466 TFLOPS(スパース)。さらにNVENC/NVDECエンコード/デコードユニットを3基統合し、AV1エンコード/デコードに対応しています。大容量メモリ、高い演算性能、動画処理能力の組み合わせにより、L40Sは大規模モデルの推論、画像生成、レイトレーシングレンダリング、Omniverseなどのデジタルツインワークロードでよく使われており、国内で現貨流通量の多い大容量メモリAdaカードの一つです。
主要スペック
| アーキテクチャ | NVIDIA Ada Lovelace architecture |
| メモリ | 48 GB GDDR6 with ECC |
| メモリ帯域幅 | 864 GB/s |
| FP32演算性能 | 91.6 teraFLOPS |
| FP16演算性能 | 733 teraFLOPS* |
| FP8演算性能 | 1,466 teraFLOPS* |
| 消費電力 TDP | 350 W |
| インターコネクト | PCIe Gen4 x16 |
| フォームファクター | 4.4" (H) x 10.5" (L), dual slot |
| コーデック | 3x (includes AV1 encode and decode) |
スペックは公式資料に基づき検証済み(
公式ベンチマーク、2026-10-09更新)· 実際の価格は出品者の提示価格によります
適用シーン
- 大規模言語モデルおよびマルチモーダルモデルのシングルカードまたは小規模クラスタでの推論デプロイ。48GBのメモリにより比較的大きなパラメータ数のモデルや長いコンテキストを扱える
- FP8/INT8量子化ベースの高性能推論サービス。1,466 TFLOPS(スパース)のTensor Core性能を活かしてスループットを向上
- 第3世代RT Core 142個を活かしたオフラインおよびリアルタイムのレイトレーシングレンダリング、可視化、コンテンツ制作
- Omniverseやデジタルツインアプリケーション、さらに3基のNVENC/NVDEC(AV1含む)を活用した大量動画トランスコードやストリーミング処理
同族モデル
| モデル | メモリ | 消費電力 |
|---|
| NVIDIA T4 比較 | 16GB GDDR6 with ECC(デフォルトで有効) | 70W(基板合計消費電力、デフォルト) |
| NVIDIA A100 比較 | 40GB HBM2 / 80GB HBM2e の2バージョン(80GB版は2020-11-16 SC20で追加発表)、ECC搭載 | SXM4 400W(40GB/80GB共通);PCIe版は40GB 250W / 80GB 300W |
| NVIDIA H20 比較 | 96GB HBM3(Flopper/VipraTech/テンセントニュースの3ソースで一致) | 400W TDP(Flopper/VipraTechの仕様表/テンセントニュースの「熱設計電力400W」の3ソース;VipraTech本文に350Wという矛盾する記載があるが採用せず) |
| NVIDIA GB300 比較 | 288GB HBM3e(GPU 1パッケージあたり;スーパーチップで576GB;HGXボードレベル2.1TB/ラック20TBと併存) | TGP 最大 1400W |
| NVIDIA A30 比較 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 比較 | 24GB GDDR6X | 450W TGP(平均ゲーム時315W、推奨システム電源850W) |
動画解説 VIDEO
調達・検品のポイント
- シャーシとマシンルームの電源に注意:L40Sは1枚あたり最大消費電力350W、16-pin電源コネクタを採用しており、システムには相応の冗長電源とケーブルを確保し、ラックの電力密度はこれを前提に計画すること
- 冷却とシャーシ形状の確認:本カードはパッシブ冷却の厚さ2スロット・フルハイト設計で、寸法は高さ約4.4インチ、長さ約10.5インチ。十分なエアフローを持つサーバーに搭載する必要があり、一般向けデスクトップ筐体への直接搭載は非対応
- 接続とデプロイトポロジー:L40SはPCIe Gen4 x16(双方向64GB/s)のみに対応し、NVLinkもMIGパーティショニングもサポートしません。カード間通信はPCIeとホスト側ネットワーク経由となるため、調達時はカード間帯域に対する業務要件を踏まえて選定する必要があります。あわせてSecure BootやNEBS Level 3認証が提供環境で持つ意味にも注目するとよいでしょう
よくある質問
NVIDIA L40Sのメモリ容量は?大規模モデルの推論に十分?
L40Sは48GB GDDR6メモリを搭載し、ECCをサポート、メモリ帯域は864GB/sです。推論用途であれば48GBは比較的大きなパラメータ数のモデルを収容でき、量子化によりさらに容量を拡張できるため、大半のシングルカード推論デプロイのニーズに適しています。
L40SはNVLinkとMIGに対応している?マルチGPU学習はどうする?
L40SはNVLinkインターコネクト非対応で、Multi-Instance GPU(MIG)パーティショニングにも対応していません。カード間通信はPCIe Gen4 x16(双方向64GB/s)経由のみのため、推論やレンダリングなどの用途に向いています。カード間の高帯域通信が重要な業務(大規模マルチGPU学習など)では、ネットワーク設計の段階で別途検討が必要です。
L40Sの動画エンコード/デコード性能は?AV1を扱える?
可能です。L40SはNVENCエンコーダー3基とNVDECデコーダー3基を統合し、AV1エンコードとデコードのハードウェアサポートを含みます。動画トランスコード、ストリーミング処理、レンダリング/Omniverseと組み合わせたグラフィックス動画生成系のワークロードに適しています。
資料更新 2026-10-09 · 深掘り項目を見る
編集ポリシー フローから