SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей
Карточка характеристик SPEC CARD

NVIDIA H100 NVL

94 ГБ HBM3 на карту, связка NVLink на 188 ГБ для двух карт, специализированный ускоритель для инференса LLM уровня 70B, двухслотовый дизайн с воздушным охлаждением 350–400 Вт — удобен для хостинга, в комплекте NVIDIA AI Enterprise, полуфлагман, которого не избежать на вторичном рынке
NVIDIA H100 NVL, официальное изображение производителя
Официальное изображение NVIDIA

Обзор

NVIDIA H100 NVL — датацентровый GPU на архитектуре Hopper в форм-факторе PCIe, позиционируемый как полуфлагман для сценариев инференса с большим объёмом памяти. Одна карта оснащается 94 ГБ HBM3, а при соединении мостом NVLink две карты объединяются в единый пул на 188 ГБ, что подходит для инференса больших языковых моделей. Карта выполнена в двухслотовом дизайне с воздушным охлаждением, TDP настраивается в определённом диапазоне, что упрощает развёртывание в стандартных серверных стойках; межкартовая связь через NVLink обеспечивает двунаправленную пропускную способность интерконнекта 600 ГБ/с, а хостовый интерфейс — PCIe Gen5. В комплекте поставляется программный пакет NVIDIA AI Enterprise, покрывающий корпоративные задачи инференса и развёртывания ИИ.

Ключевые характеристики

АрхитектураNVIDIA Hopper
Память94GB
Тип видеопамятиHBM3
Пропускная способность памяти3.9TB/s
Производительность FP6430 teraFLOPs
FP64 Tensor Core60 teraFLOPs
Производительность FP3260 teraFLOPs
Производительность FP83,341 teraFLOPS
Производительность FP161,671 teraFLOPS
Производительность INT83,341 TOPS
TDP, энергопотребление350-400W (configurable)
ИнтерконнектNVIDIA NVLink: 600GB/s | PCIe Gen5: 128GB/s
Форм-факторPCIe dual-slot air-cooled
Разделение MIGUp to 7 MIGS @ 12GB each
Кодеки7 NVDEC | 7 JPEG
Характеристики сверены с официальными материалами ( Официальные бенчмарки , обновлено 2026-10-09) · Фактическая цена определяется предложением продавца

Сценарии применения

Модели семейства

МодельПамятьПотребление
NVIDIA T4 Сравнение16 ГБ GDDR6 с ECC (включена по умолчанию)70 Вт (общая потребляемая мощность платы, по умолчанию)
NVIDIA A100 СравнениеДве версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECCSXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт
NVIDIA H20 Сравнение96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent)TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена)
NVIDIA GB300 Сравнение288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку)TGP до 1400 Вт
NVIDIA A30 Сравнение24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Сравнение24GB GDDR6X450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт)

Видеообзор VIDEO

Углублённое чтение:H100 · Углублённая статья

Покупка и проверка: на что обратить внимание

Частые вопросы

Чем H100 NVL отличается от обычной версии H100 для PCIe?
H100 NVL — вариант H100 в форм-факторе PCIe; главное отличие — поддержка моста NVLink, позволяющего объединить две карты в общий пул памяти 188 ГБ, что создано специально для сценариев инференса с большой памятью между картами; стандартная PCIe-версия обычно не имеет заводского решения для моста. Обе карты построены на архитектуре Hopper.
Хватит ли 94 ГБ на одной карте для больших моделей? Когда нужна связка двух карт?
Это зависит от количества параметров модели и схемы квантизации. Если памяти одной карты недостаточно для весов модели и накладных расходов вроде KV-кэша, можно связать две H100 NVL через NVLink и получить 188 ГБ общей памяти. После объединения пул памяти соединяется через NVLink с пропускной способностью 600 ГБ/с, что эффективнее по коммуникациям, чем схемы с несколькими картами через PCIe Gen5.
Подходит ли H100 NVL для аренды или хостинга? Зачем нужен MIG?
Да, подходит. Карта выполнена в стандартном двухслотовом дизайне PCIe с воздушным охлаждением, а настраиваемый TDP позволяет развёртывать её в обычных стоечных серверах — порог входа в хостинг относительно невысок. Функция MIG физически делит одну карту на 7 независимых экземпляров по 12 ГБ, изолированных друг от друга, что удобно облачным провайдерам и командам для распределения одной карты между несколькими арендаторами или лёгкими задачами инференса.
Дополнительно:H100-NVL Углублённая статья · Углублённая статьяH100 vs H100-NVL · Углублённая статьяH200-NVL vs H100-NVL · Углублённая статьяNVIDIA A10 · Углублённая статьяNVIDIA A100 · Углублённая статья
Материалы обновлены 2026-10-09 · Перейти к углублённой статье Редакционная политика процедуре
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX