AIXX Pedia › Rack-Eintrag › GB200 NVL72

GB200 NVL72 ist NVIDIAs Rack-level-Superchip-System : In einem einzigen Rack vereint es 72 Blackwell-GPUs + 36 Grace-CPUs , vollständig flüssigkeitsgekühlt. Die 72 GPUs sind über NVLink der fünften Generation zu einer einheitlichen All-to-All-Domäne verbunden (1,8 TB/s pro GPU, aggregiert 30,4 TB/s). Nach außen liefert das System bis zu 1.44 EF FP4 für Inferenz-/Trainings-Rechenleistung (offizielle Produktseite und Systemdokumentation von Supermicro [1][2]).
Es verschiebt die Definition eines „Servers“ auf Rack-Ebene: Compute-Trays (4× B200 + 2× Grace pro Tray) und NVLink-Switch-Trays (9 pro Rack) sind im Rack über Kupfer-Interconnect vollständig unblockiert vernetzt – Training und Inferenz laufen, als nutzte man eine einzige riesige Karte (Ankündigung auf der GTC 2024-03 [3]). 2025 ist es das Arbeitstier des globalen KI-Infrastrukturausbaus – bei Auslieferungsmenge, Diskussionsvolumen und erwartetem Gebrauchtwert führt die NVL72-Familie unangefochten.
Auf dem Spot-Markt 2026 wird der GB200 NVL72 in ganzen Racks und als aufgelöste Trays gehandelt: Projekte werden überwiegend als Komplettrack geliefert, daneben zirkulieren auch Compute-Trays/Switch-Trays einzeln. Der Einkauf ist eine schwer.engineerige Angelegenheit: Primär-/Sekundärkreis der Flüssigkeitskühlung, Stromversorgung, Kranmontage und Software-Stack (NVLink-Domänen-Integrität) müssen Posten für Posten geprüft werden. Dieser Eintrag enthält keine Marktpreise – der Rack-Preis richtet sich nach dem Angebot des Verkäufers.
AIXX Index (0–100): Diese Datenbank gewichtet öffentliche Spezifikationen – Rechenleistung 40 % + Interconnect 30 % + Deployment-Hürde 30 %. 90+ Flaggschiff-Klasse · 75+ Ausgezeichnet · 60+ brauchbar · unter 60 nicht geeignet.
Im März 2024 stellte NVIDIA auf der GTC die Blackwell-Plattform und GB200 NVL72 : Basierend auf dem Grace-Blackwell-Superchip (2× B200 + 1× Grace) entstand ein komplett vernetztes Rack mit NVLink auf Rack-Ebene – die Erzählung „72 Karten als eine Karte“ schreibt die KI-Infrastruktur seither neu (offizielle NVIDIA-Seite und GTC-Ankündigung [1][3]).
2024–2025 , Phase der großflächigen Ausrollung: Die ersten Racks der großen nordamerikanischen Cloud-Anbieter gehen online, 2025 folgt die weltweite Massenauslieferung – die Durchdringungsrate flüssigkeitsgekühlter Systeme steigt mit dem Volumen der NVL72-Familie rasch (Branchenlage: Durchdringungsrate Flüssigkeitskühlung in KI-Rechenzentren 2025 auf über 30 % geschätzt, laut öffentlichem TrendForce-Bericht [4]). In der Lieferkette ziehen Cold Plates, CDUs, Verteiler und Schnellkupplungen vollständig mit (Details zur Flüssigkeitskühlung siehe Lemma „Flüssigkeitskühlungs-CDU“ in dieser Datenbank).
2025 , Generationenwechsel: Das GB300 NVL72 (Blackwell Ultra, 72× B300) wurde vorgestellt und beginnt mit der Auslieferung. Der GB200 NVL72 wechselt vom Neuprodukt in eine Phase paralleler Bestandsdeployments und Gebrauchtmarkterwartung – beide Rack-Generationen zirkulieren 2026 parallel am Markt (GB300 siehe eigener Eintrag).
2026 , Spot-Markt-Positionierung: Der GB200 NVL72 gelangt in zwei Formen in den Handel – als Komplettrack und als aufgelöste Trays. Die grenzüberschreitenden Handelsbestimmungen für Rack-level-Systeme befinden sich noch im Wandel; beim Einkauf gelten die Vorgaben der zuständigen Behörden und professionelle Beratung (öffentliche Berichterstattung, keine Rechtsberatung).
| Position | Spezifikationen (GB200 NVL72 · offizielle Angaben) |
|---|---|
| GPU | 72× NVIDIA Blackwell (B200-Superchip-Dies) |
| CPU | 36× NVIDIA Grace (72-Kern Armv9) |
| GPU-Speicher | bis zu 13,4 TB HBM3E (gesamtes Rack) |
| CPU-Speicher | bis zu 17 TB LPDDR5X (ECC) |
| Rechenleistung | bis zu 1,44 EF FP4 (gesamtes Rack, offizielle Angabe) |
| Interconnect | NVLink 5.0 · 1,8 TB/s pro Karte · 72-GPU-Einzeldomäne · aggregiert 130 TB/s (laut offizieller Produktseite) |
| Compute-Tray | 4× B200 + 2× Grace pro Tray, 18 Trays pro Rack (Systemdokumentation Supermicro [2]) |
| Switch-Tray | 9 NVLink-Switch-Trays pro Rack (Kupfer-Interconnect, vollständig unblockiert) |
| Kühlung | Rack-level-Flüssigkeitskühlung (Cold Plates + CDU-Kreislauf, Details im CDU-Eintrag) |
| Vorstellung | März 2024 (GTC, Blackwell-Plattform) |
Spezifikationen gemäß offizieller NVIDIA-Produktseite (Stand 2026-10) [1]; Details zu Leistungsaufnahme und Stromversorgung des Gesamtsystems richten sich nach der Konfiguration des Systemherstellers (ODM/OEM). Nicht in dieser Tabelle = nicht verifiziert, keine Spekulation.
| Position | GB200 NVL72 | GB300 NVL72 |
|---|---|---|
| GPU | 72× B200(Blackwell) | 72× B300(Blackwell Ultra) |
| Speicher pro Karte | 192 GB HBM3E-Klasse | 288GB HBM3E |
| Netzwerk | ConnectX-7-Generation | ConnectX-8-Generation (800G) |
| Positionierung | Bestands-Deployment-Arbeitstier | aktuelles Flaggschiff im Neukauf |
| Auswahl in einem Satz | Bestands-Schnäppchen | Neukauf-Flaggschiff |
Zur GB300-Variante siehe Lemma GB300 NVL72 [1]; die flüssigkeitsgekühlte Rack-Architektur beider Generationen ist gleichermaßen ausgelegt (Details zum CDU-Rücklauf siehe Lemma „Flüssigkeitskühlungs-CDU“).
GB-Racks werden nach Generation und Formfaktor gestaffelt; der GB200 NVL72 ist das Blackwell-Generationen-Rack, Familienmitglieder:
Der GB200 NVL72 ist ein vollständig flüssigkeitsgekühltes Rack : Cold Plates bedecken GPU/CPU/NVLink-Switch-Chips, der Sekundärkreis im Rack tauscht über die CDU (Coolant Distribution Unit) Wärme mit dem Primärwasserkreislauf des Rechenzentrums aus – der Kühlkreislauf ist die erste Hürde beim Deployment: Vorlauftemperatur/Durchfluss/Wasserqualität der Primärseite, Schnellverschlüsse und Verteiler der Sekundärseite, N+1-Redundanz der CDU – alles Punkt für Punkt prüfen (Details im CDU-Eintrag dieser Datenbank). Umrüstkosten für Flüssigkühlung und Rechenzentrumsbedingungen sind die echte Hürde für NVL72 – ein luftgekühltes Rechenzentrum kann das Rack nicht direkt aufnehmen.
Stromversorgung und Kranmontage sind die beiden weiteren Hürden: Die Leistungsdichte des Komplettracks übersteigt bei weitem herkömmliche luftgekühlte Racks (Strom und Stromschienen gemäß ODM/OEM-Konfiguration nachprüfen), für Rackgewicht und Transport ist die Tragfähigkeit der Geschossdecke und der Weg vorher zu planen. Auf der Softwareseite ist die NVLink-Domänen-Integrität (NVLink-Switch-Trays + Kupfer-Backplane) ein Schwerpunkt der Eingangsabnahme – ein einzelner defekter Kupferlink beschädigt die 72-Karten-Interconnect-Domäne (Aufbereitung dieser Datenbank).
| Workload | Leistungsprofil des GB200 NVL72 | AIXX Index |
|---|---|---|
| MoE-Training im Billionen-Parameterbereich | 72-GPU-Einzeldomäne + 13,4 TB HBM3E im gesamten Rack, Expert-Parallelism ohne rackübergreifenden Verkehr | 95 |
| LLM-Online-Inferenz | FP4 mit 1,44 EF + Speicher-Sharing innerhalb der NVLink-Domäne, Flaggschiff beim Batch-Durchsatz | 93 |
| Video-/Multimodal-Generierung | FP4/FP8-Inferenzpipelines nutzen die NVLink-Domänen-Bandbreite voll aus | 88 |
| klassisches FP64-HPC | nicht Blackwells Terrain – für FP64-zentrierte Workloads eher Hopper-Generation oder CPU-Cluster | 70 |
Die Workload-Einstufung basiert auf der Aufbereitung öffentlicher Spezifikationen durch diese Datenbank (Schätzung, keine Leistungszusage).

Originalfotos werden laufend mit jeder Prüflieferung ergänzt; KI-generierte Bilder werden nicht als Originale ausgegeben.
| Position | Anforderung / Status |
|---|---|
| Basissoftware | NVIDIA AI Enterprise / Base Command-Familie (Cluster-level-Scheduling und Monitoring) |
| Kollektive Kommunikation | NCCL erkennt die NVLink-Domäne automatisch, voll vernetzter Rack-interner Interconnect ohne Konfiguration |
| Rackübergreifendes Netzwerk | je nach Fabric-Route Quantum-2/X800 (IB) oder Spectrum-X (Ethernet) mit ConnectX-7/8-NICs |
| Speicher | GPUDirect Storage Direct Access (Details im NVMe-All-Flash-Speicher-Eintrag) |
| Betrieb | Inspektion des Kühlkreislaufs + NVLink-Domänen-Integritätscheck sind die beiden täglichen Pflichtaufgaben |
| Systemhersteller | Komplette NVL72-Racklösungen von Supermicro/Dell/Lenovo/Inspur u. a. (Dokumentationslage Supermicro [2]) |
Rack-level-Systeme stufen den „Serverbetrieb“ zum „Rechenzentrumsbetrieb“ auf – Flüssigkühlung und NVLink-Domäne sind zwei neue Spezialgebiete; Software entwickelt sich weiter, maßgeblich sind die offiziellen NVIDIA-Veröffentlichungen.
Drei Prüfpunkte beim Kauf eines GB200 NVL72:
Das vollständige Sechs-Punkte-Burn-in-Test-Urteil findet sich in diesem Eintrag „Burn-in-Test“ dieses Eintrags.
Sechs-Punkte-Burn-in-Test-Profil, alle Zahlenbeispiele fest am GB200 NVL72 verankert: Auspacken & Identifikation → Kühlkreislauf → NVLink-Domäne → Leistungs-Baseline → Speicher-Direktzugriff → Langzeit-Burn-in-Test.
Der GB200 NVL72 wird überwiegend als vollständiges Rack über NVIDIA-autorisierte Systemintegratoren ausgeliefert:
| Systemhersteller | Repräsentative Lösungen | Unterscheidungsmerkmale | Status 2026 |
|---|---|---|---|
| Supermicro | SuperCluster GB200 NVL72 (offizielle Dokumentation [2]) | Palettenkonfiguration und Auslieferungstakt | Einer der Hauptlieferwege für Gesamtracks |
| Dell | PowerEdge-Rack-Level-Lösung | Erstklassiges globales Service-Netzwerk | Gesamtrack-Lieferung |
| Lenovo/Inspur u. a. | NVL72-Gesamtrack-Lösung | Regionale Lieferung und Service-Reichweite | Projektbasierter Handel |
| Rack-/Palettenaufteilung | Compute-Palette / Switch-Palette | Risiken bei gemischter Palettenmontage, Prüfung jeder Palette erforderlich | Sekundärmarkt |
Für Systemkonfigurationen gilt die offizielle Dokumentation des jeweiligen Herstellers [2].
Rack-Level-Systeme mit NVL-Namenszusatz (NVLink): Sie komprimieren den klassischen Cluster aus mehreren Servern plus Switches in ein einzelnes Rack; 72 GPUs bilden über NVLink eine einzige Domäne – aus Programmierersicht ist das eine riesige Karte, und die Kommunikation zwischen den GPUs umgeht den Netzwerkprotokollstapel.
Die Recheneinheit des GB200: 2 B200-GPUs und 1 Grace-CPU (72-Kern Armv9) sind per NVLink-C2C-Chip-zu-Chip-Verbindung in einem Paket vereint – CPU und GPU bieten eine einheitliche Speicherkohärenzsicht und bilden die Bausteine der Compute-Paletten.
9 NVLink-Switch-Paletten im Rack: Sie weben die 72 GPUs zu einer vollständig verbundenen Einzel-Domäne – Kupfer-Backplane-Verkabelung (im Rack ohne optische Module) und damit der größte architektonische Unterschied des NVL72 zu klassischen 8-GPU-Servern.
Die zwei Stufen der Flüssigkeitskühlung: Der Sekundärkreis (Kühlmittel im Rack, an den Kaltplatten) tauscht über die CDU Wärme mit dem Primärkreis (Kühl-/Kaltwasser des Rechenzentrums) aus – die CDU ist die Schnittstelleneinheit beider Kreise und zentrale Begleitausstattung für NVL72-Deployment.
Eine Form des Sekundärmarkts für Rack-Level-Geräte: Das Gesamttrack wird zerlegt und per Palette gehandelt. Bei „gemischter Palettenmontage“ (Paletten unterschiedlicher Herkunft in einem Rack) sind NVLink-Domänen-Integrität und einheitlicher Zustand der Paletten besonders zu prüfen – die vertragliche Festlegung der Konfigurationsherkunft ist die Mindestabsicherung.
Der GB200 NVL72 wird in zwei Stufen gehandelt: Gesamttrack und zerlegtes Rack; Palettenzusammensetzung, Kühl-Begleitausstattung und Rechenzentrumsbedingungen sorgen für eine große Preisspreizung pro Rack – es gibt derzeit keinen überprüfbaren einheitlichen Marktschnappschuss, Ehrlichkeitsprinzip dieser Datenbank: kein Marktdatenband; der Preis richtet sich nach dem tatsächlichen Angebot des Verkäufers 。
Angebotssuche: AIXX Markthalle › (Provisionsfreie Vermittlung, keine eigene Handelstätigkeit, keine Kenntnis und keine Vermutung von Abschlusspreisen – die Daten bleiben daher neutral). Sobald ausreichend Marktdaten vorliegen, wird dieser Abschnitt auf das Standard-Marktdatenband umgestellt.
Bei Neukauf zählen Budget und Lieferzeit: Das GB300 (B300 288 GB/Karte + CX-8 800G) ist das Flaggschiff der neuen Racks; das GB200 ist das Rack der Vorgängergeneration mit der größten installierten Basis – Schnäppchenchancen am Sekundärmarkt hängen von Palettenzustand und Kühl-Begleitausstattung ab. Beide Generationen nutzen dieselbe flüssigkeitsgekühlte Architektur, die Rechenzentrumsbedingungen sind weitgehend übertragbar.
Drei Dinge: Flüssigkeitskühlung (Primärwasser-Bedingungen + CDU-Deployment, luftgekühlte RZ nicht direkt nutzbar), Stromversorgung (die Leistungsdichte eines Gesamtracks übersteigt klassische Racks bei Weitem – Stromschienen und Transformatoren gemäß Systemkonfiguration prüfen) sowie Tragfähigkeit und Kranroute. Auf der Softwareseite werden NVLink-Domäne und Speicher-Direktpfad gemäß den Stresstest-Kriterien dieses Eintrags abgenommen.
Am Sekundärmarkt existiert ein Paletten-Level-Handel (18 Compute- und 9 Switch-Paletten sind trennbar), doch die NVLink-Domänen-Integrität hängt von der Rack-Backplane und den Switch-Paletten ab – eine Einzelpalette ohne Rack hat keinen NVLink-Domänen-Wert. Bei gemischter Palettenmontage ist vor der Abnahme zwingend ein Stresstest der gesamten Domäne erforderlich.
Die Grenze verläuft über Skalierung und Budget: Einige Dutzend GPUs, luft- oder hybridgekühltes Rechenzentrum – HGX-Basisplatinen-Systeme sind flexibel; über hundert GPUs, Fokus auf Domänen-Interconnect-Effizienz und Kühlbedingungen vorhanden – NVL72. Details in den jeweiligen Einträgen im Vergleich.
Zwei Spezialprüfungen + eine Inventur: komplette Kühlkette (CDU/Verteiler/Schnellkupplungen/Kaltplatten-Drucktest), Vollprüfung der NVLink-Domäne (alle Ports Active + bandbreite über Paletten hinweg), Inventur auf Paletten-Ebene (Seriennummern und Montagehistorie). Erst nach dem sechsteiligen Stresstest dieses Eintrags die Abnahme vornehmen.