SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典

AIXX 百科 › 技術コンセプト › MoE 混合エキスパート

MoE 混合エキスパート

MIXTURE OF EXPERTS · 技術コンセプト用語

概要OVERVIEW

MoE(Mixture of Experts)は「スパース活性化」型の大規模モデルアーキテクチャです。総パラメータ数は非常に大きいものの、推論時にはその一部の「エキスパート」ネットワークのみを活性化します。

代表的な例が DeepSeek R1 です。総パラメータ 671B のうち、推論ごとに活性化されるのは約 37B のみ——容量と計算コストを分離できる構造です。

主要数値KEY NUMBERS

項目数値 / 基準
総パラメータ(例)DeepSeek R1 671B
1回の活性化パラメータ約 37B
VRAM上の意味全パラメータは依然としてGPUに搭載が必要
B300 NVL8 での対比2.3TB の総VRAMでフルスペックの単体デプロイが可能

B300 における意義ON B300

MoE の VRAM 要件は総パラメータ数で決まり、活性化パラメータ数ではありません。これが B300 のような大容量VRAM機の核心的な価値シーンです。

推論スループットのボトルネックは、しばしばエキスパート並列の通信にあります。インターコネクトとネットワーク構成も同様に重要です。

限界と留意点LIMITS

  • 全パラメータをVRAMに収める必要があり、容量が不足すれば量子化またはプルーニングしかありません。
  • エキスパート間の負荷分散は工学的に難しい課題で、実際の効率はフレームワークや設定によって大きく異なります。

動画解説VIDEO

HBM3e メモリNVLink インターコネクトSXM / NVL8コールドプレート液冷 / CDUFP8 精度フォーマットNVSwitch スイッチチップInfiniBand インターコネクトネットワークNVMe ストレージ液冷CDURDMA リモートダイレクトメモリアクセスGPUDirectTensor Core テンソルコアMIG マルチインスタンス GPUPCIe Gen5コンフィデンシャルコンピューティングvGPU 仮想 GPUFP4 / FP6 マイクロスケーリング浮動小数点精度KV Cache 推論キャッシュScale-up と Scale-outCPO コパッケージオプティクスNVLink FusionMGX モジュラーアーキテクチャモデルの量子化テンソル並列集合通信AI ファクトリー液冷回路PUE エネルギー効率指標TensorRT-LLMvLLM 推論エンジンLoRA 低ランクアダプテーション計算資源サプライチェーンチャネルTCO 総所有コスト推論スループットベンチマークモデルの蒸留電力サプライチェーンToken 経済学学習データパイプライン推論最適化技術スタックGDDR7 メモリ電源コネクタ系譜(EPS/PCIe 8pin/12VHPWR/12V-2x6)対中輸出規制のタイムラインGPU 検証ガイド(nvidia-smi/GPU-Z)TensorRT 推論最適化CUDA Graphs グラフ実行NCCL 集合通信ライブラリONNX オープンモデルフォーマットHBM 世代系譜混合精度学習PCIe 世代ラックフォームファクター系譜GPU 型番命名規則の読み解き中古 GPU 流通経路空冷と液冷の比較メモリの健全性と故障判読HBM4 メモリUALink インターコネクトB300 機種項目

参考文献REFERENCES

  1. NVIDIA公式サイト — Blackwell Ultra / HGX B300 製品ページ https://www.nvidia.com/en-us/data-center/hgx/
  2. 相場と販売データ:AIXX 取引所(本データベースの相場帯)
バージョンと訂正|本項目は AIXX Pedia 編集部が管理し、AI が下書きし、人手で事実確認を行っています。更新:2026-10-20 · バージョン v1.0 · 変更履歴はすべて追跡可能です。
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作