SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей

AIXX Pedia › Техническая концепция › MoE(смесь экспертов)

MoE(смесь экспертов)

MIXTURE OF EXPERTS · Технический термин

Обзор OVERVIEW

MoE (Mixture of Experts) — архитектура больших моделей с «разреженной активацией»: общий объём параметров очень велик, но при каждом инференсе активируется лишь часть «экспертных» сетей.

Типичный пример — DeepSeek R1: 671B параметров всего, при каждом инференсе активируется лишь около 37B — ёмкость и вычислительные затраты разделены.

Ключевые цифры KEY NUMBERS

ПараметрЗначение / формат
Общий объём параметров (пример)DeepSeek R1 671B
Активируется за разОколо 37B
Что это значит для видеопамятиВсе параметры всё равно должны разместиться на картах
Для сравнения: B300 NVL82,3 ТБ суммарной памяти — полноценное развёртывание на одном узле

Значение для B300 ON B300

Аппетит MoE к видеопамяти считается по общему числу параметров, а не по активным — именно в этом ключевая ценность систем с большой памятью вроде B300.

Узким местом пропускной способности инференса часто становится обмен данными при параллелизме экспертов, поэтому не менее важны интерконнект и сетевая инфраструктура.

Границы и оговорки LIMITS

  • Все параметры должны уместиться в видеопамять; при её нехватке остаётся только квантизация или усечение модели.
  • Балансировка нагрузки между экспертами — сложная инженерная задача, реальная эффективность сильно зависит от фреймворка и конфигурации.

Видеообзор VIDEO

Видеопамять HBM3eИнтерконнект NVLinkSXM / NVL8Жидкостное охлаждение с холодной плитой / CDUФормат точности FP8Коммутационный чип NVSwitchСеть на базе InfiniBandХранилище NVMeЖидкостное охлаждение CDURDMA — удалённый прямой доступ к памятиGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Конфиденциальные вычисленияВиртуальный GPU vGPUМикроформаты с плавающей точкой FP4 / FP6Кэш вывода KV CacheScale-up и Scale-outСовмещённая оптика CPONVLink FusionМодульная архитектура MGXКвантизация моделейТензорный параллелизмКоллективные коммуникацииAI-фабрикаКонтур жидкостного охлажденияПоказатель энергоэффективности PUETensorRT-LLMДвижок вывода vLLMLoRA — низкоранговая адаптацияКаналы поставок вычислительной техникиСовокупная стоимость владения TCOБенчмарки пропускной способности при выводеДистилляция моделейЦепочка энергоснабженияЭкономика токеновКонвейер обучающих данныхСтек оптимизации выводаВидеопамять GDDR7Семейство разъёмов питания (EPS/PCIe 8pin/12VHPWR/12V-2x6)Хронология экспортного контроляРуководство по проверке GPU (nvidia-smi/GPU-Z)Оптимизация вывода TensorRTВыполнение графов CUDA GraphsБиблиотека коллективных коммуникаций NCCLОткрытый формат моделей ONNXПоколения памяти HBMОбучение со смешанной точностьюПоколения PCIeСемейство форм-факторов стоекРазбор правил именования моделей GPUЦепочка оборота подержанных GPUСравнение систем с воздушным и жидкостным охлаждениемДиагностика здоровья и неисправностей видеопамятиПамять HBM4Интерконнект UALinkСтатья о модели B300

Источники REFERENCES

  1. Официальный сайт NVIDIA — страница продукта Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Рыночные данные и предложения в наличии: AIXX Exchange (полоса рыночных данных базы)
Версии и исправления |Статья поддерживается редакцией AIXX Pedia: черновик подготовлен ИИ, факты проверены вручную. Обновлено 21.10.2026 · версия v1.0 · все изменения сохраняются и доступны для проверки.
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX