SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей

AIXX Pedia › Техническая концепция › Коммутационный чип NVSwitch

Коммутационный чип NVSwitch

NVIDIA NVSWITCH · Словарная статья о технической концепции

Обзор OVERVIEW

NVSwitch — это коммутационный чип NVIDIA для NVLink: он собирает NVLink-линии нескольких GPU на одном чипе, позволяя масштабировать матрицу полносвязного соединения (All-to-All), где «каждый связан с каждым». Впервые представлен в 2018 году в системе DGX-2, объединив 16 GPU V100 в один NVLink-домен (блог разработчиков NVIDIA «NVSwitch Accelerates NVIDIA DGX-2»); к пятому поколению (вместе с Blackwell) один NVLink-домен расширяется до 72 GPU, а суммарная коммутация NVLink внутри домена достигает 130TB/s (официальные страницы NVIDIA NVLink и GB200 NVL72).

Роль в стойках AI-вычислений: в восьмикарточных системах (HGX/DGX NVL8) NVSwitch распаян на базовой плате, объединяя восемь GPU в полносвязный домен; в цельностоечных решениях вроде GB200/GB300 NVL72 используются отдельные коммутационные лотки NVLink — 18 вычислительных лотков плюс 9 коммутационных, всего 18 чипов NVSwitch. Обозначение «NVL8 / NVL72» как раз указывает на эту полносвязную топологию на базе NVSwitch.

Ключевые цифры KEY NUMBERS

ПараметрЗначение / формат
Форм-факторКоммутационный чип, объединяющий полносвязную топологию внутри NVLink-домена
NVLink пятого поколения на один GPU1800GB/s (официальная страница NVIDIA NVLink)
Коммутационный домен NVLink58 или 72 GPU · суммарно 130TB/s внутри домена NVL72 (официальная страница NVIDIA)
Сравнение с предыдущим поколением (NVLink4)900GB/s на GPU · 8 GPU в домене · суммарная коммутация 7.2TB/s

Значение для B300 ON B300

Взаимосвязи восьмикарточной системы B300 полностью обеспечиваются NVSwitch на базовой плате: в DGX B300 официально заявлено 14.4TB/s суммарно по NVLink — то есть по 1800GB/s на каждую из 8 карт (официальная страница NVIDIA DGX B300). При тензорном параллелизме в обучении больших моделей один модельный слой распределяется на несколько карт с огромным объёмом межкарточных коммуникаций; NVSwitch не теряет пропускную способность внутри домена, позволяя восьми картам работать как единое целое.

Взгляд покупателя: NVSwitch находится на подложке, карты припаяны к ней же — при приёмке нельзя смотреть только карты, нужно тестировать NVLink-домен всей системы (точка-точка пропускная способность и стресс-тест коллективных операций all-reduce); историю ремонта подложки и коммутационных чипов можно проследить только по отчёту приёмки. Покупателям стойки целиком (форм-фактор NVL72) также следует учесть, что 9 коммутационных поддонов тоже на жидкостном охлаждении, и обсуждать оснащение машинного зала в комплексе.

Границы и оговорки LIMITS

  • Проприетарная экосистема с привязкой к поколениям: NVSwitch работает только внутри NVLink-доменов NVIDIA, размер домена растёт с поколениями (NVLink4 — 8 GPU в домене, NVLink5 — до 72 — официальные страницы NVIDIA), базовая плата/лотки привязаны к поколению GPU, смешивать поколения нельзя — апгрейд означает смену платформы.
  • Отказ затрагивает всю систему: на восьмикарточной машине выход из строя коммутационного чипа или базовой платы может остановить всю систему (формат SXM на плате не допускает горячей замены отдельных карт); в цельностоечных решениях коммутационные лотки выполнены с жидкостным охлаждением, поэтому при оценке нужно учитывать обслуживание и риски утечки.

Видеообзор VIDEO

Видеопамять HBM3eИнтерконнект NVLinkSXM / NVL8Жидкостное охлаждение с холодной плитой / CDUФормат точности FP8MoE(смесь экспертов)Сеть на базе InfiniBandХранилище NVMeЖидкостное охлаждение CDURDMA — удалённый прямой доступ к памятиGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Конфиденциальные вычисленияВиртуальный GPU vGPUМикроформаты с плавающей точкой FP4 / FP6Кэш вывода KV CacheScale-up и Scale-outСовмещённая оптика CPONVLink FusionМодульная архитектура MGXКвантизация моделейТензорный параллелизмКоллективные коммуникацииAI-фабрикаКонтур жидкостного охлажденияПоказатель энергоэффективности PUETensorRT-LLMДвижок вывода vLLMLoRA — низкоранговая адаптацияКаналы поставок вычислительной техникиСовокупная стоимость владения TCOБенчмарки пропускной способности при выводеДистилляция моделейЦепочка энергоснабженияЭкономика токеновКонвейер обучающих данныхСтек оптимизации выводаВидеопамять GDDR7Семейство разъёмов питания (EPS/PCIe 8pin/12VHPWR/12V-2x6)Хронология экспортного контроляРуководство по проверке GPU (nvidia-smi/GPU-Z)Оптимизация вывода TensorRTВыполнение графов CUDA GraphsБиблиотека коллективных коммуникаций NCCLОткрытый формат моделей ONNXПоколения памяти HBMОбучение со смешанной точностьюПоколения PCIeСемейство форм-факторов стоекРазбор правил именования моделей GPUЦепочка оборота подержанных GPUСравнение систем с воздушным и жидкостным охлаждениемДиагностика здоровья и неисправностей видеопамятиПамять HBM4Интерконнект UALinkСтатья о модели B300

Источники REFERENCES

  1. Официальный сайт NVIDIA — страница продукта Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Рыночные данные и предложения в наличии: AIXX Exchange (полоса рыночных данных базы)
Версии и исправления |Статья поддерживается редакцией AIXX Pedia: черновик подготовлен ИИ, факты проверены вручную. Обновлено 21.10.2026 · версия v1.0 · все изменения сохраняются и доступны для проверки.
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX