SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif

AIXX Pedia › Concept technique › MoE mélange d'experts

MoE mélange d'experts

MIXTURE OF EXPERTS · Fiche de concept technique

Vue d'ensemble OVERVIEW

Le MoE (Mixture of Experts) est une architecture de grands modèles à « activation éparse » : la quantification totale des paramètres est très élevée, mais chaque inférence n'active qu'une partie des réseaux « experts ».

Exemple typique : DeepSeek R1, avec 671B de paramètres au total dont environ 37B seulement sont activés à chaque inférence — capacité et coût de calcul sont ainsi découplés.

Chiffres clés KEY NUMBERS

ÉlémentValeur / périmètre
Paramètres totaux de l'exempleDeepSeek R1 671B
Activation par passageEnviron 37B
Signification en mémoire vidéoLa totalité des paramètres doit néanmoins tenir sur la carte
Comparaison avec le B300 NVL82.3TB de mémoire totale permettent un déploiement mono-serveur complet

Ce que cela signifie sur le B300 ON B300

L'appétit en mémoire du MoE se calcule sur le total des paramètres, pas sur les paramètres activés — c'est là que des modèles à grande mémoire comme le B300 prennent tout leur sens.

Le goulot d'étranglement du débit d'inférence se situe souvent dans les communications du parallélisme d'experts ; l'interconnexion et le réseau sont tout aussi déterminants.

Limites et points de vigilance LIMITS

  • Tous les paramètres doivent tenir en mémoire vidéo ; à défaut, il ne reste que la quantification ou l'élagage.
  • L'équilibrage de charge des experts reste un défi d'ingénierie ; l'efficacité réelle varie énormément selon le framework et la configuration.

Présentation vidéo VIDEO

Mémoire HBM3eInterconnexion NVLinkSXM / NVL8Refroidissement liquide à plaque froide / CDUFormat de précision FP8Puce de commutation NVSwitchRéseau d'interconnexion InfiniBandStockage NVMeCDU de refroidissement par liquideRDMA accès direct à la mémoire distanteGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Calcul confidentielvGPU GPU virtuelFP4 / FP6 flottants basse précisionKV Cache cache d'inférenceScale-up et Scale-outCPO optique co-packagéeNVLink FusionArchitecture modulaire MGXQuantification de modèleParallélisme de tenseursCommunications collectivesUsine à IABoucle de refroidissement liquideIndicateur d'efficacité PUETensorRT-LLMMoteur d'inférence vLLMLoRA adaptation bas rangChaîne d'approvisionnement en calculTCO coût total de possessionBenchmark de débit d'inférenceDistillation de modèleChaîne d'alimentation électriqueÉconomie des tokensPipeline de données d'entraînementStack d'optimisation d'inférenceMémoire GDDR7Famille des connecteurs d'alimentation (EPS/PCIe 8pin/12VHPWR/12V-2x6)Chronologie des contrôles à l'exportation vers la ChineGuide de validation GPU (nvidia-smi/GPU-Z)Optimisation d'inférence TensorRTExécution par graphes CUDA GraphsBibliothèque de communications collectives NCCLFormat de modèle ouvert ONNXGénéalogie des générations HBMEntraînement en précision mixteGénérations PCIeGénéalogie des formats de rackDécoder la nomenclature des GPUCircuit de GPU d'occasionComparaison refroidi par air / refroidi par liquideSanté mémoire et diagnostic de pannesMémoire HBM4Interconnexion UALinkFiche modèle B300

Références REFERENCES

  1. Site officiel NVIDIA — page produit Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Marché et données de vente : AIXX Exchange (bande de marché de cette base)
Versions et corrections |Cette fiche est maintenue par la rédaction d'AIXX Pedia : rédaction assistée par IA, faits vérifiés à la main. Mise à jour le 2026-10-20 · version v1.0 · chaque modification est historisée et consultable.
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX PediaAIXX ExchangeActualités AIXX
Source des données de marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX