Spec-Card SPEC CARD
NVIDIA B200 (Blackwell Datacenter-Version, SXM-Einzelkarte/OAM-Modul-Basis)
Blackwell-Flaggschiff der ersten Generation als Einzelkarte – zwei Dies, verbunden über 10 TB/s Die-zu-Die-Interconnect zu einer einzelnen GPU; bis zu 9 PFLOPS dichtes FP4 pro Karte und HBM3e im 180-GB-Bereich; das Hauptfundament für Inferenzfabriken. Der HGX B200 8-Karten-Server (FP4 auf Board-Ebene 144 sparse) ist nach dem Hochlauf 2025 die Hauptkraft für hochdichtes Training/Inferenz und die Kerneinheit des GB200 NVL72-Racks; 2026 geht der Markt in die Phase großflächiger Bestandsinstallationen und wird zur Hauptgeneration des Spotthandels
Überblick
Die NVIDIA B200 ist das Datacenter-Flaggschiff der Blackwell-Architektur. Die Einzelkarte vereint zwei Dies über eine 10 TB/s schnelle Die-zu-Die-Verbindung zu einer einzigen, einheitlichen GPU, gefertigt in einem kundenspezifischen 4NP-Prozess von TSMC mit CoWoS-L-Verpackung. Nach aktueller HGX-B200-Spezifikation verfügt die Karte über 180 GB HBM3e (zur Vorstellung waren 192 GB angegeben, die Variante im GB200 bietet 186 GB). Die FP4-Tensor-Core-Leistung liegt bei 9 PFLOPS dicht (18 PFLOPS spärlich). Die typische Board-Power (TBP/TGP) liegt bei maximal 1000 W. Typische Einsatzgebiete sind Inferenz-Fabriken für große Modelle, groß angelegte Trainingscluster sowie die Rolle als zentrale Recheneinheit im GB200-NVL72-Rack – damit ist die Karte eine der wichtigsten Grundlagen für dichte KI-Computing-Deployments.
Kernspezifikationen
| Architektur | NVIDIA Blackwell |
| Speicher | Drei Spezifikationsstände existieren nebeneinander – Vorstellung: 192 GB HBM3e; aktuelle HGX-B200-Version: 180 GB; GB200-Version: 186 GB (abgeleitet aus den offiziellen ‚372 GB' der GB200-NVL72-Seite ÷ 2) – in Beschaffungsverträgen ist der jeweilige Stand je Produktlinie (HGX/GB200) auszuweisen |
| Speichertyp | HBM3e |
| Speicherbusbreite | 8192bit |
| VRAM-Bandbreite | 8 TB/s (offizielle Angabe: abgeleitet aus 16 TB/s des GB200-Superchips ÷ 2 sowie aus ‚64 TB/s' der DGX-B200-Seite ÷ 8; für die GB200-Version direkt offiziell belegt); aktuelle OEM-Datenblätter nennen 7,7 TB/s (Lenovo LP2226) – 8 TB/s und 7,7 TB/s existieren nebeneinander, Leitwert ist die offiziellen 8 TB/s |
| Rechenleistung | Einzelkarte: FP4 TC 18 PFLOPS spärlich/9 dicht (HGX B200 8-Karten-Board 144|72 offiziell belegt ÷ 8); FP8/FP6 TC 9 spärlich/4,5 dicht (Board 72 spärlich offiziell belegt, offizielle Fußnote Dense = ½ Sparse); FP16/BF16 TC 4,5 spärlich/2,25 dicht (Lenovo-OEM-Einzelkarte direkt belegt, Board 36); TF32 TC 2,25 spärlich (Board 18); INT8 TC 9 POPS spärlich (Board 72); FP32 75 TFLOPS (Board 600); FP64/FP64 Tensor Core 37 TFLOPS; abgesehen von FP4 und FP16 mit OEM-Einzelkarten-Beleg sind alle Einzelkartenwerte aus offiziellen Boardzahlen ÷ 8 abgeleitet, spärliche Werte = halbe Dense-Werte |
| Verbrauch | Einzelkarte maximal 1000 W; für die GB200-Rack-Version existiert zudem ein konfigurierbares Limit von 1200 W |
| Interconnect | NVLink der 5. Generation, 1,8 TB/s bidirektional pro Karte (direkt offiziell belegt in der Pressemitteilung: ‚1,8 TB/s bidirektionaler Durchsatz pro GPU'); HGX B200 mit 8 Karten vollständiger NVLink-Vernetzung insgesamt 14,4 TB/s; PCIe Gen5 |
| Erscheinungsjahr | 2024 |
| SM und CUDA-Kerne | 18.432 FP32-CUDA-Kerne/576 Tensor Cores |
| L2-Cache | Unklar, nicht übernommen: Die Datacenter-Tabelle nennt 60 MB (vermutlich pro Die), in der Branche wird häufig die Summe beider Dies mit 126 MB zitiert, offiziell nicht separat ausgewiesen – der Konflikt wird dokumentiert, für diese Karte wird kein Wert festgelegt |
| Confidential Computing | Unterstützt (direkt offiziell belegt in der GTC-2024-Pressemitteilung: ‚Advanced confidential computing capabilities protect AI models and customer data'; zudem erwähnt: dedizierte RAS-Engine) |
| Codecs | Nicht erfasst |
| MIG-Slicing | Nicht erfasst |
| Formfaktor | SXM-Modul |
Spezifikationen anhand offizieller Quellen verifiziert (
Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers
Einsatzszenarien
- Inferenzdienste für große Modelle im großen Maßstab: Die Einzelkartenleistung von 9 PFLOPS FP4 dicht und 180 GB HBM3e eignen sich für Inferenz-Fabrik-Lasten mit langen Kontexten und hoher Batch-Concurrency
- Trainingscluster mit hoher Dichte: Auf Basis des 8-Karten-HGX-B200-Boards ermöglicht die NVLink-Verbindung der 5. Generation mit 1,8 TB/s pro GPU und insgesamt 14,4 TB/s Board-Level-Interconnect Trainings mit tausenden Karten und mehr
- GB200-NVL72-Rack-Deployment: Als Blackwell-GPU-Einheit im Superchip trägt die Karte zum rackweiten Compute-Pool von rund 720 PFLOPS FP4 dicht bei
- Gemischte Präzision und klassische numerische Berechnungen: Mit Board-Leistungen von 296 TFLOPS FP64 und 600 TFLOPS FP32 deckt die Karte auch Szenarien in Wissenschaft und Simulation ab, die klassische Präzision erfordern
Modelle der Familie
| Modell | Speicher | Verbrauch |
|---|
| NVIDIA T4 Vergleich | 16GB GDDR6 mit ECC (standardmäßig aktiviert) | 70W (Gesamtboardleistung, Standard) |
| NVIDIA A100 Vergleich | 40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECC | SXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W |
| NVIDIA H20 Vergleich | 96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News) | 400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen) |
| NVIDIA GB300 Vergleich | 288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB) | TGP bis 1400W |
| NVIDIA A30 Vergleich | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Vergleich | 24GB GDDR6X | 450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W) |
Videoerklärung VIDEO
Wichtige Punkte für Kauf und Prüfung
- Spezifikationen zu Speicher und Leistungsaufnahme klären: Dieses Modell existiert mit drei Speicherständen – 180 GB (aktuelle HGX-/OEM-Datenblätter), 192 GB (Vorstellung) und 186 GB (GB200-Version) –, der Beschaffungsvertrag muss dies je Produktlinie ausweisen; die maximale Board-Power (TBP/TGP) liegt bei 1000 W (auch für OAM/Module gibt es eine 1000-W-TGP-Stufe), ein komplettes HGX-B200-System zieht maximal rund 14,3 kW; Rechenzentrum muss Rack-Leistungsdichte und USV-Kapazität entsprechend der luftgekühlt Kühlkapazität des 8-Karten-Boards und der Stromredundanz planen (beim DGX B200 etwa sechs 3,3-kW-Netzteile, 5+1 redundant)
- Formfaktor und Interconnect-Lösung bestätigen: Die Karte wird als SXM-/OAM-Modul ausgeliefert und passt nicht in normale PCIe-Steckplätze; der Einkauf erfolgt als komplettes HGX-B200-8-Karten-Board oder DGX-B200-System; die GPU-zu-GPU-Verbindung läuft über zwei NVLink-Switch-Chips der 5. Generation mit insgesamt 14,4 TB/s Board-Aggregation, für Skalierung über Maschinengrenzen hinweg ist ein passendes Netzwerk der jeweiligen Generation nötig; bei der Abnahme NVLink-Topologie und NVSwitch-Status prüfen
- Leistungsspezifikation prüfen und Wareneingang kontrollieren: Kennzahlen wie FP4 existieren in spärlicher und dichter Variante (pro Karte 18/9 PFLOPS FP4, spärlich = doppelt so hoch wie dicht), Angebote und Testberichte müssen die Variante ausweisen; beim Wareneingang per nvidia-smi die Power-Limit-Stufe prüfen – je nach Stromversorgung werden 1000 W oder 800 W angezeigt; 800 W bedeutet, dass die Stromversorgung nicht vollständig bestückt ist, was mit dem Lieferanten gegen die bestellte Konfiguration abzugleichen ist
FAQ
Hat die B200-Einzelkarte nun 180 GB oder 192 GB Speicher?
Beide Angaben existieren nebeneinander: 192 GB stammen aus dem Datenblatt zur Vorstellung, die aktuelle offizielle HGX-B200-Plattformseite und gängige OEM-Systeme (8 Karten zusammen 1440 GB, also 180 GB pro Karte) nennen den aktuellen Stand; die Blackwell-GPU-Variante im GB200 NVL72 hat 186 GB. Maßgeblich ist die im Vertrag ausgewiesene Produktlinien-Spezifikation.
Sind die 1000 W der B200 ein fester Wert? Worauf sollte das Rechenzentrum planen?
1000 W ist das im offiziellen User Guide dokumentierte Einzelkarten-Maximum (nvidia-smi-Meldung, entspricht der voll bestückten Stromversorgungsstufe); bei unzureichender Redundanz (etwa ausgefallene Netzteile) reduziert die Karte auf 800 W. Am Beispiel eines HGX-B200-8-Karten-Systems mit rund 14,3 kW Gesamtleistung sollte das Rechenzentrum Strom und Kühlung auf die volle Stufe auslegen und das Redundanzkonzept der Netzteile prüfen.
Manchmal wird die B200 mit 9, manchmal mit 18 PFLOPS angegeben – was stimmt?
Beides ist korrekt, der Unterschied liegt in der Zählweise: 9 PFLOPS ist die dichte FP4-Tensor-Core-Leistung, 18 PFLOPS die spärliche Variante (spärlich = doppelt so hoch wie dicht). Entsprechend liefert ein HGX-B200-8-Karten-Board 72 PFLOPS FP4 dicht bzw. 144 PFLOPS spärlich. Beim Produktvergleich oder der Angebotsprüfung unbedingt klären, welche Zählweise zugrunde liegt.