SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей

AIXX Pedia › Техническая концепция › Scale-up и Scale-out

Scale-up и Scale-out

SCALE-UP / SCALE-OUT · Технический глоссарий

Обзор OVERVIEW

Scale-up (вертикальное масштабирование) и Scale-out (горизонтальное масштабирование) — два уровня межсоединений AI-кластера: Scale-up — «масштабирование внутри стойки»——GPU соединяются через NVLink/NVSwitch в высокоскоростной полностью связный домен (домен 72 GPU в GB200 NVL72); Scale-out — «масштабирование между стойками»——несколько стоек соединяются в более крупный кластер через InfiniBand или Ethernet.

Как это понимать закупщику: Scale-up определяет, «насколько быстра связь внутри стойки» (высокая пропускная способность внутри NVLink-домена, но ограниченный масштаб); Scale-out определяет, «насколько быстра связь между стойками» (ниже пропускная способность InfiniBand/Ethernet, но практически неограниченный масштаб). Узкое место по пропускной способности при обучении больших моделей обычно находится на уровне Scale-out — проектирование fabric (топология/маршрутизация/управление перегрузками) — ключевая компетенция интегратора.

Ключевые цифры KEY NUMBERS

ПараметрЗначение / формат
Интер connecting Scale-upNVLink / NVSwitch (внутри стойки)
Интер connecting Scale-outInfiniBand / RoCE Ethernet (между стойками)
Пропускная способность Scale-up130 ТБ/с внутри домена GB200 NVL72
Пропускная способность Scale-out800 Гбит/с на карту ConnectX-8

Значение для B300 ON B300

У серии B300 Scale-up реализован через NVLink 5 (1,8 ТБ/с на карту, полно связный домен), Scale-out — через ConnectX-8 (800 Гбит/с, межузловой fabric). При закупке готовых систем планировать нужно оба уровня: масштаб NVLink-домена внутри стойки определяет, «сколько карт работают как одна», а дизайн межстоечного fabric — эффективность масштабирования кластера.

Границы и оговорки LIMITS

  • Масштабируемость Scale-up ограничена упаковкой: число GPU в NVLink-домене ограничено длиной медных кабелей и числом портов коммутационных чипов — NVL72 — практический предел на сегодня, NVL576 — в дорожной карте.
  • Задержка Scale-out выше, чем у Scale-up: межузловая связь идёт через сетевой стек протоколов (даже при RDMA) с задержкой выше, чем внутри стойки на NVLink — стратегии параллелизма обучения должны соответствовать соотношению пропускных способностей двух уровней.

Видеообзор VIDEO

Видеопамять HBM3eИнтерконнект NVLinkSXM / NVL8Жидкостное охлаждение с холодной плитой / CDUФормат точности FP8MoE(смесь экспертов)Коммутационный чип NVSwitchСеть на базе InfiniBandХранилище NVMeЖидкостное охлаждение CDURDMA — удалённый прямой доступ к памятиGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Конфиденциальные вычисленияВиртуальный GPU vGPUМикроформаты с плавающей точкой FP4 / FP6Кэш вывода KV CacheСовмещённая оптика CPONVLink FusionМодульная архитектура MGXКвантизация моделейТензорный параллелизмКоллективные коммуникацииAI-фабрикаКонтур жидкостного охлажденияПоказатель энергоэффективности PUETensorRT-LLMДвижок вывода vLLMLoRA — низкоранговая адаптацияКаналы поставок вычислительной техникиСовокупная стоимость владения TCOБенчмарки пропускной способности при выводеДистилляция моделейЦепочка энергоснабженияЭкономика токеновКонвейер обучающих данныхСтек оптимизации выводаВидеопамять GDDR7Семейство разъёмов питания (EPS/PCIe 8pin/12VHPWR/12V-2x6)Хронология экспортного контроляРуководство по проверке GPU (nvidia-smi/GPU-Z)Оптимизация вывода TensorRTВыполнение графов CUDA GraphsБиблиотека коллективных коммуникаций NCCLОткрытый формат моделей ONNXПоколения памяти HBMОбучение со смешанной точностьюПоколения PCIeСемейство форм-факторов стоекРазбор правил именования моделей GPUЦепочка оборота подержанных GPUСравнение систем с воздушным и жидкостным охлаждениемДиагностика здоровья и неисправностей видеопамятиMFU — коэффициент использования вычислительной мощности моделиПамять DDR5Память HBM4Интерконнект UALinkСтатья о модели B300

Источники REFERENCES

  1. Официальный сайт NVIDIA — страница продукта Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Рыночные данные и данные об обращении: AIXX Exchange (полоса рыночных данных базы)
Версии и исправления |Эта статья поддерживается редакцией AIXX Pedia: черновик подготовлен ИИ, факты проверены вручную. Обновлено 31.10.2026 · версия v1.0 · все изменения документированы и доступны для просмотра.
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX CloudAIXX ExchangeРыночная аналитика AIXXAIXX News
Обзор рынка: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX