AIXX 百科 › 技術コンセプト › Scale-up と Scale-out
Scale-up(スケールアップ)と Scale-out(スケールアウト)は、AI クラスタの2層インターコネクト構造です。Scale-up は「ラック内拡張」——GPU 間を NVLink/NVSwitch による高速フルメッシュで1つのドメインにまとめるもの(GB200 NVL72 の 72-GPU 単一ドメインが代表例)。Scale-out は「ラック間拡張」——InfiniBand またはイーサネットで複数のラックを接続し、より大規模なクラスタを構築するものです。
調達担当者向けの読み解き:Scale-up は「ラック内通信がどれだけ速いか」を左右し(NVLink ドメイン内は帯域が高いが規模に上限あり)、Scale-out は「ラック間通信がどれだけ速いか」を左右します(InfiniBand/イーサネットは帯域が低いが規模は無限)。大規模モデル学習のスループットボトルネックは通常 Scale-out 層にあり、ファブリック設計(トポロジ/ルーティング/輻輳制御)がシステムインテグレータの腕の見せ所です。
| 項目 | 数値 / 基準 |
|---|---|
| Scale-up インターコネクト | NVLink / NVSwitch(ラック内) |
| Scale-out インターコネクト | InfiniBand / RoCE イーサネット(ラック間) |
| Scale-up 帯域 | GB200 NVL72 ドメイン内 130TB/s |
| Scale-out 帯域 | ConnectX-8 1枚あたり 800G |
B300 シリーズの Scale-up は NVLink 5(1.8TB/s/GPU・ドメイン内フルメッシュ)、Scale-out は ConnectX-8(800G・マシン間ファブリック)を採用します。システム一式を調達する際は両層の計画が必須です。ラック内 NVLink ドメインの規模が「何枚の GPU が1枚のように振る舞うか」を決め、ラック間ファブリックの設計が「クラスタ拡張の効率」を決めます。