SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif
Fiche technique SPEC CARD

NVIDIA H200 SXM

Version de la H100 au même socket avec plus de mémoire — l'enveloppe thermique reste à 700 W, la mémoire grimpe à 141 Go de HBM3e à 4,8 To/s, le débit d'inférence des grands modèles double ; le serveur 8 GPU HGX H200 devient le nouveau pilier des clusters d'inférence. Après l'assouplissement des restrictions d'exportation vers la Chine en 2026, sa forte capacité mémoire en fait une valeur sûre du marché du spot.

Vue d'ensemble

NVIDIA H200 SXM est un GPU data center basé sur l'architecture Hopper, positionné comme la version au même socket que la H100 avec une mémoire renforcée. Son changement le plus notable : la mémoire par carte passe à 141 Go de HBM3e, NVIDIA revendiquant le premier GPU au monde avec cette capacité en HBM3e. À enveloppe thermique identique à celle de la H100, les chiffres officiels annoncent un débit d'inférence LLM environ deux fois supérieur. Côté calcul, le H200 SXM prend en charge FP64, FP32 et toutes les précisions Tensor Core, avec une puissance FP8 de 4 petaFLOPS (sparse incluse). Au format SXM, il s'interconnecte via NVLink à 900 Go/s pour former des systèmes HGX H200 à 4 ou 8 GPU. Largement utilisé pour l'inférence et l'entraînement de grands modèles, le HPC et le décodage vidéo, il s'impose comme le choix dominant des clusters d'inférence à forte capacité mémoire.

Spécifications clés

ArchitectureNVIDIA Hopper (puce GH100, process TSMC 4N sur mesure, 80 milliards de transistors, 814 mm², même GH100 que la H100 SXM)
Mémoire vidéo141 Go de HBM3e (bus 6 144 bits / 6,3 Gbps par broche, premier GPU au monde avec 141 Go de HBM3e selon NVIDIA)
Type de mémoireHBM3e
Largeur du bus mémoire6144bit
Bande passante mémoire4.8TB/s
Puissance de calculFP8 Tensor Core 3 958 TFLOPS (sparse inclus, dense 1 979) ; FP16/BF16 TC 1 979* ; TF32 TC 989* ; INT8 TC 3 958 TOPS* ; FP64 TC 67 ; FP32 67 ; FP64 34 (valeurs SXM, * = avec sparsité)
TDPSXM jusqu'à 700 W (configurable) ; même enveloppe thermique de 700 W que la H100 SXM au même socket
InterconnexionNVLink 900 Go/s + PCIe Gen5 128 Go/s ; topologie fully-connected à 4/8 GPU via NVSwitch en HGX H200 (8 GPU : plus de 32 PFLOPS FP8 cumulés, 1,1 To de mémoire au total)
Année de lancement2024
SM et CUDA cores132 SM / 16 896 cœurs CUDA FP32
Fréquence boost1,980MHz
Cache L250MB
Découpage MIGJusqu'à 7 instances de 18 Go (18 Go par instance, contre 16,5 Go pour la H200 NVL et 10 Go pour la H100)
Codecs7 NVDEC + 7 JPEG
Calcul confidentielConfidential Computing Supported
FormatModule SXM (refroidi par liquide ou refroidi par air selon le serveur, en HGX H200 4 ou 8 GPU ; NVIDIA AI Enterprise en option payante)
Spécifications vérifiées contre les sources officielles ( benchmarks officiels , mis à jour le 10/10/2026) · Le prix réel est soumis au devis du vendeur

Cas d'usage

Modèles de la même famille

ModèleMémoire vidéoTDP
NVIDIA T4 Comparer16 Go GDDR6 avec ECC (activé par défaut)70 W (puissance totale de la carte, par défaut)
NVIDIA A100 ComparerDouble version 40 Go HBM2 / 80 Go HBM2e (version 80 Go annoncée le 2020-11-16 à SC20), avec ECCSXM4 400 W (identique en 40 Go et 80 Go) ; version PCIe : 40 Go 250 W / 80 Go 300 W
NVIDIA H20 Comparer96 Go HBM3 (concordance Flopper/VipraTech/Tencent News)400 W TDP (Flopper/tableau VipraTech/'400 W TDP' Tencent News, triple concordance ; les 350 W mentionnés dans le corps du texte de VipraTech, contradictoires, ont été écartés)
NVIDIA GB300 Comparer288 Go HBM3e (par cœur GPU ; 576 Go pour la superpuce ; 2,1 To au niveau carte HGX / 20 To par baie, deux chiffres coexistant)TGP jusqu'à 1400 W
NVIDIA A30 Comparer24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Comparer24GB GDDR6X450 W TGP (335 W en jeu en moyenne, alimentation système recommandée 850 W)

Présentation vidéo VIDEO

Pour aller plus loin :H200 SXM, fiche détaillée (édition approfondie en 20 sections) · Fiche approfondieH200 NVL (PCIe 141 Go) · Fiche approfondieH100 SXM · Fiche approfondie

Points d'achat et de vérification

FAQ

Quelle différence entre H200 et H100 ?
Le H200 est la version de la H100 avec plus de mémoire : la capacité passe à 141 Go de HBM3e, à enveloppe thermique inchangée (700 W max, configurable). Selon les chiffres officiels, le débit d'inférence LLM du H200 est environ deux fois supérieur à celui de la H100. Les deux cartes relèvent de l'architecture Hopper et partagent des capacités de calcul et un écosystème logiciel quasi identiques.
H200 SXM ou H200 NVL, lequel choisir ?
Les deux offrent 141 Go de mémoire, mais les différences sont nettes : le SXM est un format intégré au substrate qui s'appuie sur NVLink à 900 Go/s, avec un TDP maximal de 700 W, adapté aux serveurs HGX et aux clusters haute densité ; le NVL est une carte PCIe double slot refroidi par air, TDP maximal de 600 W, interconnectable par 2 ou 4 via un pont NVLink, avec des puissances de calcul plus faibles. Pour un cluster d'inférence haute densité en auto-hébergement, on choisit généralement le SXM en serveur complet ; le NVL convient aux serveurs PCIe existants ou aux environnements contraints en espace.
Quelle taille de modèle peut héberger la mémoire du H200 ?
Avec 141 Go par carte, la plupart des grands modèles open source majeurs se chargent intégralement en inférence, ou avec des fenêtres de contexte plus longues ; en système HGX H200 à 8 GPU via NVLink, la mémoire cumulée atteint 1,1 To, de quoi faire de l'inférence et de l'entraînement sur des modèles à centaines de milliards de paramètres. L'échelle réellement déployable dépend aussi de la précision de quantification, de la longueur du KV Cache et de l'implémentation du framework.
Pour aller plus loin:NVIDIA A10 · Fiche approfondieNVIDIA A100 · Fiche approfondieAIXX Pedia · Fiche approfondie
Données mises à jour le 10/10/2026 · Accéder aux fiches approfondies Politique éditoriale Démarche
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX PediaAIXX ExchangeActualités AIXX
Source des données de marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX