Карточка характеристик SPEC CARD
NVIDIA H200 SXM
Модернизированная версия H100 с тем же посадочным местом и тем же энергопрофile 700 Вт, но с памятью, увеличенной до 141 ГБ HBM3e и 4,8 ТБ/с — вдвое более высокий пропуск при инференсе больших моделей. Восьмиускорительный HGX H200 — новая опора инференс-кластеров; после ослабления экспортных ограничений для Китая в 2026-м этот объем наращивается, а на рынке карточек с большим объемом памяти это ходовая валюта.
Обзор
NVIDIA H200 SXM — дата-центровый GPU на архитектуре Hopper, позиционируемый как модернизированная версия H100 с тем же посадочным местом, но увеличенным объёмом памяти. Главное изменение — рост памяти одной карты до 141 ГБ HBM3e; по словам производителя, это первый в мире GPU с таким объёмом HBM3e. При том же энергопрофиле, что и у H100, официальные данные показывают примерно двукратный рост пропускной способности при инференсе больших языковых моделей. По вычислительным возможностям H200 SXM поддерживает FP64, FP32 и все режимы точности Tensor Core, производительность FP8 достигает 4 petaFLOPS (с разреженными вычислениями). Форм-фактор SXM, объединение по NVLink со скоростью 900 ГБ/с в системы HGX H200 на 4 или 8 ускорителей; широко применяется для инференса и обучения больших моделей, высокопроизводительных вычислений и задач декодирования видео — стандартный выбор для инференс-кластеров с большим объёмом памяти.
Ключевые характеристики
| Архитектура | NVIDIA Hopper (ядро GH100, заказной техпроцесс TSMC 4N, 80 млрд транзисторов, 814 мм², тот же кристалл GH100, что и у H100 SXM) |
| Память | 141 ГБ HBM3e (шина 6144 бит, скорость выводов 6,3 Гбит/с; по данным производителя, первая в мире карта с 141 ГБ HBM3e) |
| Тип видеопамяти | HBM3e |
| Разрядность шины памяти | 6144bit |
| Пропускная способность памяти | 4.8TB/s |
| Вычислительная мощность | FP8 Tensor Core 3958 TFLOPS (с разреженными, плотные 1979); FP16/BF16 TC 1979*; TF32 TC 989*; INT8 TC 3958 TOPS*; FP64 TC 67; FP32 67; FP64 34 (значения для SXM, * = With sparsity) |
| Потребление | До 700 Вт (настраивается); в том же посадочном месте, что и H100 SXM, тот же энергопрофиль 700 Вт |
| Интерконнект | NVLink 900 ГБ/с + PCIe Gen5 128 ГБ/с; через NVSwitch собирается полностью связанная система HGX H200 на 4/8 ускорителей (суммарно по 8 карт более 32 PFLOPS FP8, суммарная память 1,1 ТБ) |
| Год выпуска | 2024 |
| SM и CUDA-ядра | 132 SM / 16 896 FP32 CUDA-ядер |
| Частота ускорения | 1,980MHz |
| Кэш L2 | 50MB |
| Разделение MIG | До 7 экземпляров по 18 ГБ (18 ГБ на экземпляр — больше, чем 16,5 ГБ у H200 NVL и 10 ГБ у H100) |
| Кодеки | 7 NVDEC + 7 JPEG |
| Конфиденциальные вычисления | Confidential Computing Supported |
| Форм-фактор | Модуль SXM (с жидкостным охлаждением или с воздушным охлаждением — зависит от системы; в связке HGX H200 на 4 или 8 карт; AI Enterprise приобретается как отдельная надстройка) |
Характеристики сверены с официальными материалами (
Официальные бенчмарки , обновлено 2026-10-10) · Фактическая цена определяется предложением продавца
Сценарии применения
- Инференс-сервисы больших языковых моделей: 141 ГБ памяти позволяют размещать более крупные модели или более длинные контексты; по официальным данным, пропускная способность инференса примерно вдвое выше предшественника — подходит для production-уровня LLM API и пакетного инференса
- Обучение и дообучение больших моделей: интерконнект NVLink 900 ГБ/с позволяет собрать систему HGX H200 на 4 или 8 ускорителей с суммарной производительностью FP8 более 32 petaFLOPS — для обучения моделей с очень большим числом параметров и эффективного по параметрам дообучения
- Мультиинстанс-инференс и разделение вычислений: благодаря MIG карта делится максимум на 7 экземпляров (по 18 ГБ каждый) — удобно для облачных провайдеров, предоставляющих изолированные инференс-ресурсы нескольким арендаторам на одной физической карте
- Видео- и графические конвейеры: 7 декодеров NVDEC и 7 движков JPEG позволяют параллельно с инференсом больших моделей выполнять масштабное транскодирование видео и декодирование изображений
Модели семейства
| Модель | Память | Потребление |
|---|
| NVIDIA T4 Сравнение | 16 ГБ GDDR6 с ECC (включена по умолчанию) | 70 Вт (общая потребляемая мощность платы, по умолчанию) |
| NVIDIA A100 Сравнение | Две версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECC | SXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт |
| NVIDIA H20 Сравнение | 96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent) | TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена) |
| NVIDIA GB300 Сравнение | 288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку) | TGP до 1400 Вт |
| NVIDIA A30 Сравнение | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Сравнение | 24GB GDDR6X | 450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт) |
Видеообзор VIDEO
Покупка и проверка: на что обратить внимание
- Проверка мощности и охлаждения серверной: H200 SXM имеет форм-фактор SXM с максимальным TDP 700 Вт (настраиваемым); необходимо убедиться, что резерв питания и решение с жидкостным охлаждением или с воздушным охлаждением системы (HGX H200 на 4 или 8 карт) соответствуют требованиям, иначе запаса, рассчитанного по базовой линии H100, может не хватить
- Приёмка памяти и интерконнекта: убедитесь, что поставляется версия SXM, а не H200 NVL (они различаются энергопрофилем, форм-фактором и способом связи); версия SXM опирается на NVLink уровня платы и не может использоваться отдельно от базы HGX — при закупке системы проверяйте конфигурацию NVLink 900 ГБ/с
- Софт и комплаенс: уточните каналы поставки и партии у вендора системы и облачного провайдера, оцените, нужна ли дополнительная лицензия NVIDIA AI Enterprise; при закупках, затрагивающих экспортный контроль, подтвердите свой комплаенс-статус; также учтите, что карта поддерживает Confidential Computing — если требуется безопасная изоляция, проверьте это при приёмке
Частые вопросы
Чем H200 отличается от H100?
H200 — это версия H100 с увеличенной памятью: объём вырос до 141 ГБ HBM3e при неизменном энергопрофиле (до 700 Вт, настраивается). По официальным данным, пропускная способность H200 при инференсе больших языковых моделей примерно вдвое выше, чем у H100. Обе карты относятся к архитектуре Hopper, вычислительные возможности и программная экосистема практически идентичны.
Что выбрать: H200 SXM или H200 NVL?
Обе карты имеют 141 ГБ памяти, но различия существенны: SXM — модуль для монтажа на плате, использующий NVLink со скоростью 900 ГБ/с, с максимальным TDP 700 Вт — для систем HGX и плотных кластеров; NVL — двухслотовая карта с воздушным охлаждением на PCIe с максимальным TDP 600 Вт, связь 2- или 4-карточная через NVLink-мост, вычислительный потенциал ниже. Для собственного плотного инференс-кластера обычно выбирают системы на SXM, а при наличии PCIe-серверов или ограниченном пространстве — NVL.
Модели какого размера можно запускать на памяти H200?
141 ГБ памяти одной карты достаточно для полной загрузки большинства популярных открытых больших моделей для инференса или для более длинных контекстных окон; в системе HGX H200 на 8 карт по NVLink суммарная память достигает 1,1 ТБ, что позволяет работать с моделями в сотни миллиардов параметров — как инференс, так и обучение. Реальный масштаб зависит также от точности квантизации модели, длины KV-кэша и реализации фреймворка.