SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей
Карточка характеристик SPEC CARD

NVIDIA H200 SXM

Модернизированная версия H100 с тем же посадочным местом и тем же энергопрофile 700 Вт, но с памятью, увеличенной до 141 ГБ HBM3e и 4,8 ТБ/с — вдвое более высокий пропуск при инференсе больших моделей. Восьмиускорительный HGX H200 — новая опора инференс-кластеров; после ослабления экспортных ограничений для Китая в 2026-м этот объем наращивается, а на рынке карточек с большим объемом памяти это ходовая валюта.

Обзор

NVIDIA H200 SXM — дата-центровый GPU на архитектуре Hopper, позиционируемый как модернизированная версия H100 с тем же посадочным местом, но увеличенным объёмом памяти. Главное изменение — рост памяти одной карты до 141 ГБ HBM3e; по словам производителя, это первый в мире GPU с таким объёмом HBM3e. При том же энергопрофиле, что и у H100, официальные данные показывают примерно двукратный рост пропускной способности при инференсе больших языковых моделей. По вычислительным возможностям H200 SXM поддерживает FP64, FP32 и все режимы точности Tensor Core, производительность FP8 достигает 4 petaFLOPS (с разреженными вычислениями). Форм-фактор SXM, объединение по NVLink со скоростью 900 ГБ/с в системы HGX H200 на 4 или 8 ускорителей; широко применяется для инференса и обучения больших моделей, высокопроизводительных вычислений и задач декодирования видео — стандартный выбор для инференс-кластеров с большим объёмом памяти.

Ключевые характеристики

АрхитектураNVIDIA Hopper (ядро GH100, заказной техпроцесс TSMC 4N, 80 млрд транзисторов, 814 мм², тот же кристалл GH100, что и у H100 SXM)
Память141 ГБ HBM3e (шина 6144 бит, скорость выводов 6,3 Гбит/с; по данным производителя, первая в мире карта с 141 ГБ HBM3e)
Тип видеопамятиHBM3e
Разрядность шины памяти6144bit
Пропускная способность памяти4.8TB/s
Вычислительная мощностьFP8 Tensor Core 3958 TFLOPS (с разреженными, плотные 1979); FP16/BF16 TC 1979*; TF32 TC 989*; INT8 TC 3958 TOPS*; FP64 TC 67; FP32 67; FP64 34 (значения для SXM, * = With sparsity)
ПотреблениеДо 700 Вт (настраивается); в том же посадочном месте, что и H100 SXM, тот же энергопрофиль 700 Вт
ИнтерконнектNVLink 900 ГБ/с + PCIe Gen5 128 ГБ/с; через NVSwitch собирается полностью связанная система HGX H200 на 4/8 ускорителей (суммарно по 8 карт более 32 PFLOPS FP8, суммарная память 1,1 ТБ)
Год выпуска2024
SM и CUDA-ядра132 SM / 16 896 FP32 CUDA-ядер
Частота ускорения1,980MHz
Кэш L250MB
Разделение MIGДо 7 экземпляров по 18 ГБ (18 ГБ на экземпляр — больше, чем 16,5 ГБ у H200 NVL и 10 ГБ у H100)
Кодеки7 NVDEC + 7 JPEG
Конфиденциальные вычисленияConfidential Computing Supported
Форм-факторМодуль SXM (с жидкостным охлаждением или с воздушным охлаждением — зависит от системы; в связке HGX H200 на 4 или 8 карт; AI Enterprise приобретается как отдельная надстройка)
Характеристики сверены с официальными материалами ( Официальные бенчмарки , обновлено 2026-10-10) · Фактическая цена определяется предложением продавца

Сценарии применения

Модели семейства

МодельПамятьПотребление
NVIDIA T4 Сравнение16 ГБ GDDR6 с ECC (включена по умолчанию)70 Вт (общая потребляемая мощность платы, по умолчанию)
NVIDIA A100 СравнениеДве версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECCSXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт
NVIDIA H20 Сравнение96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent)TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена)
NVIDIA GB300 Сравнение288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку)TGP до 1400 Вт
NVIDIA A30 Сравнение24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Сравнение24GB GDDR6X450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт)

Видеообзор VIDEO

Углублённое чтение:Подробная статья о H200 (глубокая версия, 20 разделов) · Углублённая статьяH200 NVL — тонкая карта (PCIe, 141 ГБ) · Углублённая статьяH100 SXM — тонкая карта · Углублённая статья

Покупка и проверка: на что обратить внимание

Частые вопросы

Чем H200 отличается от H100?
H200 — это версия H100 с увеличенной памятью: объём вырос до 141 ГБ HBM3e при неизменном энергопрофиле (до 700 Вт, настраивается). По официальным данным, пропускная способность H200 при инференсе больших языковых моделей примерно вдвое выше, чем у H100. Обе карты относятся к архитектуре Hopper, вычислительные возможности и программная экосистема практически идентичны.
Что выбрать: H200 SXM или H200 NVL?
Обе карты имеют 141 ГБ памяти, но различия существенны: SXM — модуль для монтажа на плате, использующий NVLink со скоростью 900 ГБ/с, с максимальным TDP 700 Вт — для систем HGX и плотных кластеров; NVL — двухслотовая карта с воздушным охлаждением на PCIe с максимальным TDP 600 Вт, связь 2- или 4-карточная через NVLink-мост, вычислительный потенциал ниже. Для собственного плотного инференс-кластера обычно выбирают системы на SXM, а при наличии PCIe-серверов или ограниченном пространстве — NVL.
Модели какого размера можно запускать на памяти H200?
141 ГБ памяти одной карты достаточно для полной загрузки большинства популярных открытых больших моделей для инференса или для более длинных контекстных окон; в системе HGX H200 на 8 карт по NVLink суммарная память достигает 1,1 ТБ, что позволяет работать с моделями в сотни миллиардов параметров — как инференс, так и обучение. Реальный масштаб зависит также от точности квантизации модели, длины KV-кэша и реализации фреймворка.
Дополнительно:NVIDIA A10 · Углублённая статьяNVIDIA A100 · Углублённая статьяAIXX Pedia · Углублённая статья
Данные обновлены 2026-10-10 · оформить углублённую статью по Редакционная политика процедуре
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX