SECTIONS
EDITIONS
NETWORK
AIXX AIXX PediaDie Enzyklopädie der Rechenleistung
AIXX Cloud (im Bau)
AIXX AIXX PediaDie Enzyklopädie der Rechenleistung
AIXX Cloud (im Bau)

AIXX Pedia › Technisches Konzept › MoE (Mixture of Experts)

MoE (Mixture of Experts)

MIXTURE OF EXPERTS · Technisches Konzept

ÜberblickOVERVIEW

MoE (Mixture of Experts) ist eine Architektur für große Modelle mit „sparsamer Aktivierung“: Die Gesamtzahl der Parameter ist sehr hoch, bei jeder Inferenz wird jedoch nur ein Teil der „Experten“-Netzwerke aktiviert.

Ein typisches Beispiel ist DeepSeek R1: 671B Parameter insgesamt, wobei jede Inferenz nur etwa 37B aktiviert – Kapazität und Rechenaufwand werden entkoppelt.

KernzahlenKEY NUMBERS

ProjektWert / Bezugsgröße
Gesamtparameter im BeispielDeepSeek R1 671B
Pro Inferenz aktiviertetwa 37B
Bedeutung für den VRAMAlle Parameter müssen weiterhin im GPU-Speicher liegen
Vergleich B300 NVL82,3 TB Gesamtspeicher ermöglichen eine volldigitale Bereitstellung auf einem einzelnen System

Bedeutung beim B300ON B300

Der VRAM-Bedarf von MoE richtet sich nach der Gesamtzahl der Parameter, nicht nach den aktivierten – genau hier liegt der Kernnutzen von Speicherriesen wie dem B300.

Der Engpass beim Inferenzdurchsatz liegt häufig in der Kommunikation des Experten-Parallelismus; Interconnect und Netzwerkanbindung sind ebenso entscheidend.

Grenzen und HinweiseLIMITS

  • Alle Parameter müssen in den GPU-Speicher passen; reicht die Kapazität nicht aus, bleibt nur Quantisierung oder Beschneidung.
  • Lastausgleich zwischen den Experten ist eine technische Herausforderung; die tatsächliche Effizienz variiert stark je nach Framework und Konfiguration.

VideoerklärungVIDEO

QuellenREFERENCES

  1. NVIDIA-Website – Blackwell Ultra / HGX B300 Produktseiten https://www.nvidia.com/en-us/data-center/hgx/
  2. Marktdaten und Verfügbarkeit:AIXX Börse(Marktband dieser Datenbank)
Versionen und Korrekturen|Dieser Eintrag wird von der AIXX Pedia-Redaktion gepflegt, KI-gestützt entworfen und manuell inhaltlich geprüft. Aktualisiert am 12.10.2026 · Version v1.0 · Alle Änderungen sind revisionssicher dokumentiert.
Diese Datenbank
RedaktionsrichtlinieÜber diese Datenbank (Interessenerklärung)Korrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuellenangabeSchwächen immer genannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Conversion- oder Verkaufe-Elemente in EinträgenMarktdaten nur als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten:AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX