SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif

AIXX Pedia › Concept technique › Scale-up et Scale-out

Scale-up et Scale-out

SCALE-UP / SCALE-OUT · Fiche concept technique

Vue d'ensemble OVERVIEW

Le scale-up (montée en puissance verticale) et le scale-out (extension horizontale) sont les deux niveaux d'architecture d'interconnexion d'un cluster IA : le scale-up, c'est l'extension « intra-rack » — les GPU sont reliés en full-mesh haute vitesse via NVLink/NVSwitch pour former un domaine (le domaine mono-domaine de 72 GPU du GB200 NVL72) ; le scale-out, c'est l'extension « inter-racks » — plusieurs racks sont reliés en un cluster plus vaste via InfiniBand ou Ethernet.

Lecture pour l'acheteur : le scale-up détermine « la vitesse de communication dans le rack » (bande passante élevée au sein du domaine NVLink, mais échelle limitée) ; le scale-out détermine « la vitesse de communication entre racks » (bande passante plus faible en InfiniBand/Ethernet, mais échelle illimitée). Le goulot d'étranglement de débit de l'entraînement des grands modèles se situe généralement au niveau du scale-out — la conception du fabric (topologie/routage/contrôle de congestion) est la compétence clé de l'intégrateur.

Chiffres clés KEY NUMBERS

ÉlémentValeur / périmètre
Interconnexion Scale-upNVLink / NVSwitch (intra-rack)
Interconnexion Scale-outInfiniBand / Ethernet RoCE (inter-racks)
Bande passante Scale-up130 To/s au sein du domaine GB200 NVL72
Bande passante Scale-outConnectX-8 : 800 G par carte

Ce que cela signifie sur le B300 ON B300

Sur la série B300, le scale-up passe par NVLink 5 (1,8 To/s par carte, full-mesh intra-domaine) et le scale-out par ConnectX-8 (800 G, fabric inter-nœuds) — lors de l'achat de systèmes complets, les deux niveaux doivent être planifiés : la taille du domaine NVLink intra-rack détermine « combien de cartes se comportent comme une seule », tandis que la conception du fabric inter-racks détermine « l'efficacité de passage à l'échelle du cluster ».

Limites et points de vigilance LIMITS

  • L'échelle du scale-up est limitée par le packaging : le nombre de GPU dans un domaine NVLink est contraint par la longueur des câbles en cuivre et le nombre de ports des commutateurs — le NVL72 est la limite pratique actuelle, le NVL576 figure sur la feuille de route.
  • La latence du scale-out est supérieure à celle du scale-up : la communication inter-nœuds emprunte la pile de protocoles réseau (même en RDMA), avec une latence supérieure au NVLink intra-rack — les stratégies de parallélisme d'entraînement doivent s'adapter au ratio de bande passante entre les deux niveaux.

Présentation vidéo VIDEO

Mémoire HBM3eInterconnexion NVLinkSXM / NVL8Refroidissement liquide à plaque froide / CDUFormat de précision FP8MoE mélange d'expertsPuce de commutation NVSwitchRéseau d'interconnexion InfiniBandStockage NVMeCDU de refroidissement par liquideRDMA accès direct à la mémoire distanteGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Calcul confidentielvGPU GPU virtuelFP4 / FP6 flottants basse précisionKV Cache cache d'inférenceCPO optique co-packagéeNVLink FusionArchitecture modulaire MGXQuantification de modèleParallélisme de tenseursCommunications collectivesUsine à IABoucle de refroidissement liquideIndicateur d'efficacité PUETensorRT-LLMMoteur d'inférence vLLMLoRA adaptation bas rangChaîne d'approvisionnement en calculTCO coût total de possessionBenchmark de débit d'inférenceDistillation de modèleChaîne d'alimentation électriqueÉconomie des tokensPipeline de données d'entraînementStack d'optimisation d'inférenceMémoire GDDR7Famille des connecteurs d'alimentation (EPS/PCIe 8pin/12VHPWR/12V-2x6)Chronologie des contrôles à l'exportation vers la ChineGuide de validation GPU (nvidia-smi/GPU-Z)Optimisation d'inférence TensorRTExécution par graphes CUDA GraphsBibliothèque de communications collectives NCCLFormat de modèle ouvert ONNXGénéalogie des générations HBMEntraînement en précision mixteGénérations PCIeGénéalogie des formats de rackDécoder la nomenclature des GPUCircuit de GPU d'occasionComparaison refroidi par air / refroidi par liquideSanté mémoire et diagnostic de pannesMFU (taux d'utilisation de la puissance de calcul du modèle)Mémoire DDR5Mémoire HBM4Interconnexion UALinkFiche modèle B300

Références REFERENCES

  1. Site officiel NVIDIA — page produit Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Données de marché et de circulation : AIXX Exchange (bande de marché de cette base)
Versions et corrections |Cette fiche est maintenue par la rédaction d'AIXX Pedia, rédigée avec l'aide de l'IA et vérifiée par des humains. Mise à jour le 30-10-2026 · version v1.0 · chaque modification est traçable.
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX CloudAIXX ExchangeAIXX IndexActualités AIXX
Bilan du marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX