SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif

AIXX Pedia › Concept technique › Généalogie des générations HBM

Généalogie des générations HBM

GÉNÉRATIONS DE HIGH BANDWIDTH MEMORY · fiche concept technique

Vue d'ensemble OVERVIEW

La HBM (High Bandwidth Memory) est une mémoire vidéo constituée de dies DRAM empilés verticalement et reliés au GPU par des interconnexions ultra-courtes, standardisée par la JEDEC : HBM2 finalisée en 2016, HBM2e portant un stack HBM à 16 Go ; HBM3 publiée en 2022, débit par broche doublé à 6,4 Gb/s ; HBM3e porté à 9,6 Gb/s et 36 Go par stack ; la norme HBM4 publiée en 2025, interface élargie à 2048 bits, soit 2 To/s par stack (chiffres JEDEC).

Pour un serveur IA complet, la génération de mémoire vidéo détermine directement « quelle taille de modèle tient sur une carte » : A100 80 Go HBM2e, H100 80 Go HBM3, H200 141 Go HBM3e, B300 288 Go HBM3e — quatre générations où capacité et bande passante progressent à chaque étape (d'après les fiches officielles NVIDIA, de 2039 Go/s à 4,8 To/s). La génération HBM est aussi un tournant pour le marché de l'occasion : à la même étiquette de 80 Go, HBM3 et HBM2e sont deux produits de générations différentes, avec un écart de prix qui suit la génération.

Chiffres clés KEY NUMBERS

ÉlémentValeur / périmètre
HBM2 / HBM2eJusqu'à 3,2 → 3,6 Gb/s par broche · stack HBM 8 → 16 Go (chiffres JEDEC / production de masse SK Hynix en 2020)
HBM3 (publiée en janvier 2022)6,4 Gb/s par broche · H100 80 Go, 3,35 To/s (JEDEC / official NVIDIA)
HBM3e9,6 Gb/s par broche · stack 12 couches de 36 Go (SK Hynix, première production de masse mondiale en septembre 2024)
HBM4 (publiée en avril 2025)JESD270-4 · interface 2048 bits · jusqu'à 2 To/s par stack (officiel JEDEC)

Ce que cela signifie sur le B300 ON B300

Avec 288 Go HBM3e par carte, la B300 représente le sommet commercial actuel de cette généalogie : selon les chiffres officiels, la mémoire vidéo gagne encore 50 % par rapport à la génération précédente (192 Go HBM3e) (page officielle NVIDIA GB300 NVL72), et les huit cartes d'une configuration NVL8 totalisent environ 2,3 To — un grand modèle complet de 671 milliards de paramètres en FP8 tient dessus avec de la marge. Avant de lire un devis, demandez d'abord la génération de mémoire vidéo : à 288 Go identiques, HBM3e et HBM4 coexistent sur le marché dès 2026, et la valeur des plateformes ainsi que les prix se stratifient selon la génération.

Point de vue inspection : les stacks HBM proviennent des trois géants du secteur (SK Hynix, Samsung, Micron) ; il faut vérifier la génération via le marquage silk-screen et les rapports du firmware officiel afin d'éviter de vendre de l'ancien pour du neuf. Le HBM2e de la génération A100 et le HBM3/HBM3e des générations H100/H200 se ressemblent visuellement, mais leurs écarts de prix dépassent le double ; confondre les générations lors des annonces est un piège fréquent du marché de l'occasion.

Limites et points de vigilance LIMITS

  • Le passage HBM3e → HBM4 est un changement d'interface (élargissement de 1024 à 2048 bits) : la mémoire vidéo est liée au GPU dès la fabrication et ne peut pas être mise à niveau soi-même comme des barrettes de RAM ; la norme HBM4 n'a été publiée qu'en avril 2025 (JEDEC), et l'offre des premières plateformes équipées ainsi que la circulation sur le marché de l'occasion en sont encore au stade précoce, entre primes et pénuries.
  • Les chiffres de capacité masquent les écarts de génération : le débit par broche progresse à chaque génération (6,4 Gb/s en HBM3 à 9,6 Gb/s en HBM3e, chiffres JEDEC/fabricants), et un cran d'écart de génération se traduit par une nette différence de bande passante ; plus le nombre de couches empilées est élevé (12 couches et au-delà), plus les défis de rendement et de thermique sont importants, et les défaillances liées à la mémoire vidéo pèsent lourd dans le coût d'un serveur complet — l'inspection et les clauses de garantie doivent être traitées différemment selon la génération.
Mémoire HBM3eInterconnexion NVLinkSXM / NVL8Refroidissement liquide à plaque froide / CDUFormat de précision FP8MoE mélange d'expertsPuce de commutation NVSwitchRéseau d'interconnexion InfiniBandStockage NVMeCDU de refroidissement par liquideRDMA accès direct à la mémoire distanteGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Calcul confidentielvGPU GPU virtuelFP4 / FP6 flottants basse précisionKV Cache cache d'inférenceScale-up et Scale-outCPO optique co-packagéeNVLink FusionArchitecture modulaire MGXQuantification de modèleParallélisme de tenseursCommunications collectivesUsine à IABoucle de refroidissement liquideIndicateur d'efficacité PUETensorRT-LLMMoteur d'inférence vLLMLoRA adaptation bas rangChaîne d'approvisionnement en calculTCO coût total de possessionBenchmark de débit d'inférenceDistillation de modèleChaîne d'alimentation électriqueÉconomie des tokensPipeline de données d'entraînementStack d'optimisation d'inférenceMémoire GDDR7Famille des connecteurs d'alimentation (EPS/PCIe 8pin/12VHPWR/12V-2x6)Chronologie des contrôles à l'exportation vers la ChineGuide de validation GPU (nvidia-smi/GPU-Z)Optimisation d'inférence TensorRTExécution par graphes CUDA GraphsBibliothèque de communications collectives NCCLFormat de modèle ouvert ONNXEntraînement en précision mixteGénérations PCIeGénéalogie des formats de rackDécoder la nomenclature des GPUCircuit de GPU d'occasionComparaison refroidi par air / refroidi par liquideSanté mémoire et diagnostic de pannesMémoire HBM4Interconnexion UALinkFiche modèle B300

Références REFERENCES

  1. Site officiel NVIDIA — page produit Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Marché et données de vente : AIXX Exchange (bande de marché de cette base)
Versions et corrections |Cette fiche est maintenue par la rédaction d'AIXX Pedia : rédaction assistée par IA, faits vérifiés à la main. Mise à jour le 2026-10-20 · version v1.0 · chaque modification est historisée et consultable.
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX PediaAIXX ExchangeActualités AIXX
Source des données de marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX