AIXX Pedia › Техническая концепция › Коммутационный чип NVSwitch
NVSwitch — это коммутационный чип NVIDIA для NVLink: он собирает NVLink-линии нескольких GPU на одном чипе, позволяя масштабировать матрицу полносвязного соединения (All-to-All), где «каждый связан с каждым». Впервые представлен в 2018 году в системе DGX-2, объединив 16 GPU V100 в один NVLink-домен (блог разработчиков NVIDIA «NVSwitch Accelerates NVIDIA DGX-2»); к пятому поколению (вместе с Blackwell) один NVLink-домен расширяется до 72 GPU, а суммарная коммутация NVLink внутри домена достигает 130TB/s (официальные страницы NVIDIA NVLink и GB200 NVL72).
Роль в стойках AI-вычислений: в восьмикарточных системах (HGX/DGX NVL8) NVSwitch распаян на базовой плате, объединяя восемь GPU в полносвязный домен; в цельностоечных решениях вроде GB200/GB300 NVL72 используются отдельные коммутационные лотки NVLink — 18 вычислительных лотков плюс 9 коммутационных, всего 18 чипов NVSwitch. Обозначение «NVL8 / NVL72» как раз указывает на эту полносвязную топологию на базе NVSwitch.
| Параметр | Значение / формат |
|---|---|
| Форм-фактор | Коммутационный чип, объединяющий полносвязную топологию внутри NVLink-домена |
| NVLink пятого поколения на один GPU | 1800GB/s (официальная страница NVIDIA NVLink) |
| Коммутационный домен NVLink5 | 8 или 72 GPU · суммарно 130TB/s внутри домена NVL72 (официальная страница NVIDIA) |
| Сравнение с предыдущим поколением (NVLink4) | 900GB/s на GPU · 8 GPU в домене · суммарная коммутация 7.2TB/s |
Взаимосвязи восьмикарточной системы B300 полностью обеспечиваются NVSwitch на базовой плате: в DGX B300 официально заявлено 14.4TB/s суммарно по NVLink — то есть по 1800GB/s на каждую из 8 карт (официальная страница NVIDIA DGX B300). При тензорном параллелизме в обучении больших моделей один модельный слой распределяется на несколько карт с огромным объёмом межкарточных коммуникаций; NVSwitch не теряет пропускную способность внутри домена, позволяя восьми картам работать как единое целое.
Взгляд покупателя: NVSwitch находится на подложке, карты припаяны к ней же — при приёмке нельзя смотреть только карты, нужно тестировать NVLink-домен всей системы (точка-точка пропускная способность и стресс-тест коллективных операций all-reduce); историю ремонта подложки и коммутационных чипов можно проследить только по отчёту приёмки. Покупателям стойки целиком (форм-фактор NVL72) также следует учесть, что 9 коммутационных поддонов тоже на жидкостном охлаждении, и обсуждать оснащение машинного зала в комплексе.