SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典

AIXX 百科 › 技術コンセプト › Scale-up と Scale-out

Scale-up と Scale-out

SCALE-UP / SCALE-OUT · 技術コンセプト用語

概要OVERVIEW

Scale-up(スケールアップ)と Scale-out(スケールアウト)は、AI クラスタの2層インターコネクト構造です。Scale-up は「ラック内拡張」——GPU 間を NVLink/NVSwitch による高速フルメッシュで1つのドメインにまとめるもの(GB200 NVL72 の 72-GPU 単一ドメインが代表例)。Scale-out は「ラック間拡張」——InfiniBand またはイーサネットで複数のラックを接続し、より大規模なクラスタを構築するものです。

調達担当者向けの読み解き:Scale-up は「ラック内通信がどれだけ速いか」を左右し(NVLink ドメイン内は帯域が高いが規模に上限あり)、Scale-out は「ラック間通信がどれだけ速いか」を左右します(InfiniBand/イーサネットは帯域が低いが規模は無限)。大規模モデル学習のスループットボトルネックは通常 Scale-out 層にあり、ファブリック設計(トポロジ/ルーティング/輻輳制御)がシステムインテグレータの腕の見せ所です。

主要数値KEY NUMBERS

項目数値 / 基準
Scale-up インターコネクトNVLink / NVSwitch(ラック内)
Scale-out インターコネクトInfiniBand / RoCE イーサネット(ラック間)
Scale-up 帯域GB200 NVL72 ドメイン内 130TB/s
Scale-out 帯域ConnectX-8 1枚あたり 800G

B300 における意義ON B300

B300 シリーズの Scale-up は NVLink 5(1.8TB/s/GPU・ドメイン内フルメッシュ)、Scale-out は ConnectX-8(800G・マシン間ファブリック)を採用します。システム一式を調達する際は両層の計画が必須です。ラック内 NVLink ドメインの規模が「何枚の GPU が1枚のように振る舞うか」を決め、ラック間ファブリックの設計が「クラスタ拡張の効率」を決めます。

限界と留意点LIMITS

  • Scale-up の規模はパッケージングの制約を受けます。NVLink ドメイン内の GPU 数は銅ケーブルの到達距離とスイッチチップのポート数に制限されます。NVL72 が現時点での実用上限で、NVL576 はロードマップ上の存在です。
  • Scale-out のレイテンシは Scale-up より高くなります。マシン間通信はネットワークプロトコルスタックを経由するため(RDMA でも)、ラック内 NVLink よりレイテンシが上がります。学習の並列化戦略は2層の帯域比に合わせて設計する必要があります。

動画解説VIDEO

HBM3e メモリNVLink インターコネクトSXM / NVL8コールドプレート液冷 / CDUFP8 精度フォーマットMoE 混合エキスパートNVSwitch スイッチチップInfiniBand インターコネクトネットワークNVMe ストレージ液冷CDURDMA リモートダイレクトメモリアクセスGPUDirectTensor Core テンソルコアMIG マルチインスタンス GPUPCIe Gen5コンフィデンシャルコンピューティングvGPU 仮想 GPUFP4 / FP6 マイクロスケーリング浮動小数点精度KV Cache 推論キャッシュCPO コパッケージオプティクスNVLink FusionMGX モジュラーアーキテクチャモデルの量子化テンソル並列集合通信AI ファクトリー液冷回路PUE エネルギー効率指標TensorRT-LLMvLLM 推論エンジンLoRA 低ランクアダプテーション計算資源サプライチェーンチャネルTCO 総所有コスト推論スループットベンチマークモデルの蒸留電力サプライチェーンToken 経済学学習データパイプライン推論最適化技術スタックGDDR7 メモリ電源コネクタ系譜(EPS/PCIe 8pin/12VHPWR/12V-2x6)対中輸出規制のタイムラインGPU 検証ガイド(nvidia-smi/GPU-Z)TensorRT 推論最適化CUDA Graphs グラフ実行NCCL 集合通信ライブラリONNX オープンモデルフォーマットHBM 世代系譜混合精度学習PCIe 世代ラックフォームファクター系譜GPU 型番命名規則の読み解き中古 GPU 流通経路空冷と液冷の比較メモリの健全性と故障判読MFU(モデル演算性能利用率)DDR5 メモリHBM4 メモリUALink インターコネクトB300 機種項目

参考文献REFERENCES

  1. NVIDIA公式サイト — Blackwell Ultra / HGX B300 製品ページ https://www.nvidia.com/en-us/data-center/hgx/
  2. 相場と流通データ:AIXX 取引所(本データベースの相場帯)
バージョンと訂正|本項目は AIXX Pedia 編集部が維持し、AI が下書きした内容を人間が事実確認しています。更新:2026-10-30 · バージョン v1.0 · 変更履歴はすべて追跡可能です。
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX CloudAIXX 取引所AIXX 相場AIXX ニュース
相場まとめ:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作