SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей

AIXX Pedia › Техническая концепция › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · Словарная статья о технической концепции

Обзор OVERVIEW

GPUDirect — семейство технологий прямого взаимодействия GPU от NVIDIA, позволяющих данным идти в обход CPU и системной памяти по прямому пути между GPU и внешними устройствами. GPUDirect RDMA позволяет сетевому адаптеру напрямую читать и писать в память GPU (без промежуточного копирования через CPU); GPUDirect Storage доставляет данные из хранилища прямо в память GPU (минуя CPU); NVLink обеспечивает прямое соединение между GPU.

Обучение и инференс ИИ обе выигрывают от GPUDirect: при обучении синхронизация градиентов AllReduce идёт через GPUDirect RDMA; при инференсе KV cache доставляется из хранилища прямо в память GPU (GPUDirect Storage); multi-node fabric между машинами и картами строится на GPUDirect+RDMA — весь путь данных не упирается в узкое место в виде CPU.

Ключевые цифры KEY NUMBERS

ПараметрЗначение / формат
GPUDirect RDMAПрямой путь: сетевой адаптер ↔ память GPU
GPUDirect StorageПрямой путь: NVMe/хранилище → память GPU
Сопутствующее оборудованиеСетевые адаптеры ConnectX + PCIe-топология с поддержкой P2P
Программный стекCUDA + NCCL + GPUDirect Storage SDK

Значение для B300 ON B300

Вся линейка B300 поддерживает GPUDirect — межузловой fabric систем GB200/GB300 NVL72 (ConnectX-8) и внутристоечный домен NVLink оба проходят через GPUDirect-пути. При закупке компонентов интерконнекта (сетевые адаптеры/коммутаторы/кабели) пошлиная сверка со списком совместимости GPUDirect — обязательный пункт приёмки: сторонние модули могут физически вставляться, но GPUDirect при этом не заработает.

Границы и оговорки LIMITS

  • GPUDirect требует согласования PCIe-топологии: GPU и сетевой адаптер должны находиться под одним PCIe Root Complex — P2P между NUMA-узлами теряет в производительности, поэтому при выборе сервера PCIe-топология — ключевой пункт приёмки.
  • Совместимость сторонних хранилищ и сетевых адаптеров нестабильна: список совместимости GPUDirect Storage поддерживается NVIDIA — устройства вне списка могут «работать, но с потерей производительности».

Видеообзор VIDEO

Видеопамять HBM3eИнтерконнект NVLinkSXM / NVL8Жидкостное охлаждение с холодной плитой / CDUФормат точности FP8MoE(смесь экспертов)Коммутационный чип NVSwitchСеть на базе InfiniBandХранилище NVMeЖидкостное охлаждение CDURDMA — удалённый прямой доступ к памятиTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Конфиденциальные вычисленияВиртуальный GPU vGPUМикроформаты с плавающей точкой FP4 / FP6Кэш вывода KV CacheScale-up и Scale-outСовмещённая оптика CPONVLink FusionМодульная архитектура MGXКвантизация моделейТензорный параллелизмКоллективные коммуникацииAI-фабрикаКонтур жидкостного охлажденияПоказатель энергоэффективности PUETensorRT-LLMДвижок вывода vLLMLoRA — низкоранговая адаптацияКаналы поставок вычислительной техникиСовокупная стоимость владения TCOБенчмарки пропускной способности при выводеДистилляция моделейЦепочка энергоснабженияЭкономика токеновКонвейер обучающих данныхСтек оптимизации выводаВидеопамять GDDR7Семейство разъёмов питания (EPS/PCIe 8pin/12VHPWR/12V-2x6)Хронология экспортного контроляРуководство по проверке GPU (nvidia-smi/GPU-Z)Оптимизация вывода TensorRTВыполнение графов CUDA GraphsБиблиотека коллективных коммуникаций NCCLОткрытый формат моделей ONNXПоколения памяти HBMОбучение со смешанной точностьюПоколения PCIeСемейство форм-факторов стоекРазбор правил именования моделей GPUЦепочка оборота подержанных GPUСравнение систем с воздушным и жидкостным охлаждениемДиагностика здоровья и неисправностей видеопамятиПамять HBM4Интерконнект UALinkСтатья о модели B300

Источники REFERENCES

  1. Официальный сайт NVIDIA — страница продукта Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Рыночные данные и предложения в наличии: AIXX Exchange (полоса рыночных данных базы)
Версии и исправления |Статья поддерживается редакцией AIXX Pedia: черновик подготовлен ИИ, факты проверены вручную. Обновлено 21.10.2026 · версия v1.0 · все изменения сохраняются и доступны для проверки.
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX