AIXX Pedia › Техническая концепция › Интерконнект NVLink
NVLink — проприетарная шина прямого соединения GPU от NVIDIA, позволяющая нескольким GPU обмениваться данными напрямую с пропускной способностью, многократно превышающей PCIe; у пятого поколения — 1,8 ТБ/с на карту.
Сопутствующие чипы NVSwitch объединяют несколько GPU в полноформатную полносвязную матрицу — отсюда и «NV» в названиях «NVL8 / NVL72»: топология All-to-All.
| Параметр | Значение / формат |
|---|---|
| Поколение | NVLink пятого поколения |
| Пропускная способность на карту | 1.8TB/s |
| Типовая конфигурация | NVL8 (базовая плата на 8 карт) · NVL72 (сервер на 72 карты) |
| Внешняя сетевая инфраструктура | ConnectX-8 + Quantum-800 / Spectrum-X(800G) |
Тензорный параллелизм в больших моделях делит одну модель между несколькими картами, и объём межкартовых коммуникаций огромен — NVLink позволяет восьми GPU работать как единому целому.
Восьмикарточным серверам также требуется внешняя сеть уровня 800G; без правильной сетевой конфигурации восемь GPU превращаются в восемь изолированных островов.