AIXX Pedia › Техническая концепция › Scale-up и Scale-out
Scale-up (вертикальное масштабирование) и Scale-out (горизонтальное масштабирование) — два уровня межсоединений AI-кластера: Scale-up — «масштабирование внутри стойки»——GPU соединяются через NVLink/NVSwitch в высокоскоростной полностью связный домен (домен 72 GPU в GB200 NVL72); Scale-out — «масштабирование между стойками»——несколько стоек соединяются в более крупный кластер через InfiniBand или Ethernet.
Как это понимать закупщику: Scale-up определяет, «насколько быстра связь внутри стойки» (высокая пропускная способность внутри NVLink-домена, но ограниченный масштаб); Scale-out определяет, «насколько быстра связь между стойками» (ниже пропускная способность InfiniBand/Ethernet, но практически неограниченный масштаб). Узкое место по пропускной способности при обучении больших моделей обычно находится на уровне Scale-out — проектирование fabric (топология/маршрутизация/управление перегрузками) — ключевая компетенция интегратора.
| Параметр | Значение / формат |
|---|---|
| Интер connecting Scale-up | NVLink / NVSwitch (внутри стойки) |
| Интер connecting Scale-out | InfiniBand / RoCE Ethernet (между стойками) |
| Пропускная способность Scale-up | 130 ТБ/с внутри домена GB200 NVL72 |
| Пропускная способность Scale-out | 800 Гбит/с на карту ConnectX-8 |
У серии B300 Scale-up реализован через NVLink 5 (1,8 ТБ/с на карту, полно связный домен), Scale-out — через ConnectX-8 (800 Гбит/с, межузловой fabric). При закупке готовых систем планировать нужно оба уровня: масштаб NVLink-домена внутри стойки определяет, «сколько карт работают как одна», а дизайн межстоечного fabric — эффективность масштабирования кластера.