Spec-Card SPEC CARD
NVIDIA B300 (Blackwell Ultra GPU)
Ein einzelner B300 = Blackwell Ultra GPU an sich, also jede der acht GPUs auf dem HGX B300 NVL16 8-GPU-Board: 288 GB HBM3e in einem Single-Package (1,5x zur Launch-Angabe des B200 / 1,6x zum aktuellen HGX-Stand), Full-Power-Stufe pro GPU: FP4 20 PFLOPS spars|15 PFLOPS dicht (dicht +50 % gegenüber dem B200), TGP 1400 W, NVLink 1,8 TB/s, PCIe Gen6; der Preis dafür: INT8 auf 1/24 und FP64 auf 1/30 reduziert — eine Karte mit klarer Ausrichtung auf reine KI-Inferenz-Fabriken. Vorgestellt am 18.03.2025 auf der GTC, Auslieferung ab H2 2025, Generation mit Lieferbarkeit ab 2026; Anfragen zu Gebraucht-/Sofortverfügbarkeit sind anhand von 288 GB HBM3e pro Karte auf dieses Modell zu beziehen; Superchips mit Grace CPU fallen unter den GB300-Eintrag, komplette 8-GPU-Boards unter den HGX B300 NVL16-Eintrag
Überblick
Der NVIDIA B300 ist ein Rechenzentrum-GPU auf Basis der Blackwell-Ultra-Architektur. Das Single-Package-Design integriert zwei Dies, gefertigt im TSMC-4NP-Prozess mit rund 208 Mrd. Transistoren, 160 SMs und 640 Tensor Cores der fünften Generation. Der Speicher umfasst 288 GB HBM3e mit einer Gesamtbitbreite von 8192 Bit; in der Full-Power-Konfiguration liegt die FP4-Leistung bei 20 PFLOPS spars bzw. 15 PFLOPS dicht, was gegenüber dem Vorgänger Blackwell rund +50 % (dicht) bedeutet. Die Interconnection erfolgt über NVLink: Die unidirektionale Verbindung besteht aus 18 Links mit einer bidirektionalen GPU-zu-GPU-Bandbreite von 1,8 TB/s, zudem wird PCIe Gen6 unterstützt. Das TGP liegt bei maximal 1400 W; die Karte ist für großskalige FP4-KI-Inferenz- und Trainingscluster ausgelegt und bildet die zentrale Recheneinheit im HGX B300 NVL16 8-GPU-Board sowie im GB300 Superchip.
Kernspezifikationen
| Architektur | NVIDIA Blackwell Ultra (Ultra-Generation der Blackwell-Architektur, reine GPU ohne Grace CPU) — ein einzelner B300: TSMC-4NP-Prozess / 208 Mrd. Transistoren / zwei Dies als ein GPU vereint (offizieller Blog als Direktbeleg: 'TSMC 4NP and features 208B transistors' + 'Dies per GPU: 2'); pro GPU bis zu 160 SMs organisiert in 8 GPCs, 640 Tensor Cores der fünften Generation (Blog-Direktbeleg); Attention Engine mit 10,7 TeraExponentials/s, offiziell als '2x higher attention performance' gegenüber Blackwell beworben (Blog Table 2 + NVL72-Seite als Direktbeleg) |
| Speicher | 288 GB HBM3e im Single-Package (Hauptwert: offizieller Blog Table 2 '288 GB HBM3E' als Direktbeleg + DGX-B300-Benutzerhandbuch '8 x 288 GB = 2.3 TB total' als Direktbeleg); gegenüber dem B200 existieren zwei Referenzpunkte — gegenüber der Launch-Angabe von 192 GB Faktor 1,5x (Blog Table 2 nebeneinander '192 GB|288 GB' + NVL72-Seite '1.5x larger HBM3E' als Direktbeleg), gegenüber den aktuellen 180 GB im HGX Faktor 1,6x (Lenovo-Zitat '288 GB...compared with 180 GB on the B200'); Board-Summe im HGX B300: 2,1 TB; nutzbare Kapazität laut Datenblatt-Auszug 279 GB / 268 GB als ergänzende Randnotiz |
| Speichertyp | HBM3e (12-Hi-Stacks; Korrekturhinweis im offiziellen Blog vom 24.09.2025: 'proper 12 HBM stacks instead of 8' — die im Fließtext verbliebene Angabe 'Eight 12-Hi stacks' ist eine bekannte Inkonsistenz; gemäß 288 GB = 12 × 24 GB pro Stack gilt der korrigierte Wert von 12 Stacks) |
| Speicherbusbreite | 8192 Bit (offizieller Blog, Original-Angabe zur HBM-Konfiguration: '16 × 512-bit controllers (8,192-bit total width)' als Direktbeleg) |
| VRAM-Bandbreite | 8 TB/s pro GPU (offizieller Blog als Direktbeleg: '8 TB/s per GPU, 2.4x improvement over H100'; Gegenprobe: Rack 576 TB/s ÷ 72 = 8 TB/s) |
| Rechenleistung | Full-Power-Stufe pro GPU (Hauptwert): FP4 (NVFP4) TC 20 PFLOPS spars | 15 PFLOPS dicht (offizieller Blog Table 2 '15 | 20 PetaFLOPS' als Direktbeleg + Gegenprobe Rack 1440|1080 ÷ 72; dicht gegenüber Blackwell mit 10 Faktor 1,5x, spars 20 auf gleichem Niveau); FP8/FP6 TC 10 spars | 5 dicht (Blog '5 | 10 PetaFLOPS' als Direktbeleg); INT8 TC rund 375 TOPS spars (HGX-Board 3 POPS ÷ 8, gegenüber 9000 TOPS pro B200-Karte eine Generation Reduktion um Faktor 24); FP16/BF16 TC 4,5 spars | 2,25 dicht (HGX 36 ÷ 8); TF32 TC 2,25 spars (HGX 18 ÷ 8); FP32 75 TFLOPS (HGX 600 ÷ 8); FP64/FP64 TC 1,25 TFLOPS (HGX 10 ÷ 8, gegenüber 37 beim B200 rund Faktor 30 Reduktion — bei Ultra wich die Tensor-Core-Fläche zugunsten dichter FP4-Leistung). Low-Power-Stufe pro GPU auf dem HGX-B300-Board: FP4 18|13,5 (144|108 ÷ 8, offiziell belegt) — nicht mit der Full-Power-Stufe verwechseln |
| Verbrauch | TGP maximal 1400 W (offizieller Blog Table 2 als Direktbeleg: 'Max power (TGP): Up to 1,400W', gegenüber Blackwell 1200 W / Hopper 700 W); für das HGX B300 existiert als Low-Power-Board-SKU zusätzlich eine Stufe bei rund 1100 W (Quellen: IntuitionLabs / Lenovo SR680a V4, Suchergebnis-Ebene, kein offizieller Einzelkarten-Beleg, nur als Randnotiz); DGX B300 mit 8 Karten gesamt 14,5 kW |
| Interconnect | NVLink Generation 5, 1,8 TB/s bidirektional pro GPU (offizieller Blog als Direktbeleg: '1.8 TB/s bidirectional (18 links x 100 GB/s)' + HGX-Seite 'GPU-to-GPU 1.8 TB/s'); HGX B300 mit 8 Karten vollvermascht gesamt 14,4 TB/s, zwei Boards lassen sich zu einer NVL16-Domain brücken; PCIe Gen6 x16 bidirektional 256 GB/s (Blog Table 1 '256 (Gen 6)' als Direktbeleg, Verdopplung gegenüber Hopper Gen5 mit 128 GB/s); Netzwerk-Ebene: HGX B300 mit 1,6 TB/s, DGX B300 mit ConnectX-8 à 800 Gb/s pro GPU |
| Erscheinungsjahr | 2025 (vorgestellt am 18.03.2025 auf der GTC, offizielle Pressemitteilung als Direktbeleg; 'expected to be available from partners starting from the second half of 2025' als offizielles Auslieferungszitat belegt; Fußnote der offiziellen HGX-Seite 'shipping now' + NVL72-Seite 'Available Now' bestätigen die Generationsstufe der Lieferbarkeit) |
| SM und CUDA-Kerne | Bis zu 160 SMs / 640 Tensor Cores der fünften Generation (offizieller Blog als Direktbeleg: '160 Streaming Multiprocessors (SMs) across two dies, providing 640 fifth-generation Tensor Cores', Fußnote 'up to 160 SMs'); pro SM 128 CUDA-Kerne + 4 Tensor Cores + 256 KB TMEM (Blog-Direktbeleg); insgesamt 20.480 CUDA-Kerne (Produkt 160 × 128 als Ableitung); SM-Zahl gegenüber der ersten Blackwell-Generation (144) +11 %, gegenüber Hopper (132) +21 % |
| L2-Cache | Nicht erfasst |
| Confidential Computing | Nicht erfasst (bei dieser Quellenprüfung zu B300 fanden sich keine Angaben zu Confidential Computing; lieber auslassen als erfinden; Confidential Computing der Blackwell-Generation ist in der GTC-2024-Pressemitteilung zum B200 belegt — für ausführliche Einträge separat nachprüfen) |
| Codecs | Nicht erfasst (in den aktuellen offiziellen Quellen finden sich keine Angaben zur Anzahl der Codecs beim B300; lieber auslassen als erfinden) |
| MIG-Slicing | Nicht erfasst |
| Formfaktor | SXM-Modul (Blackwell Ultra SXM, offizielle HGX-Seite als Formfaktor-Beleg) — Bereitstellungsformen: HGX B300 NVL16 8-GPU-Board (luftgekühlt/flüssigkeitsgekühlt, Auslieferungsform der OEM-Systemhersteller; Position dieser Karte) / DGX B300 8-Karten-System mit 14,5 kW / GB300 NVL72-Rack mit 72 Karten, durchgängig flüssigkeitsgekühlt (reine GPU-Perspektive; Superchips mit Grace CPU fallen unter den GB300-Eintrag) |
Spezifikationen anhand offizieller Quellen verifiziert (
Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers
Einsatzszenarien
- KI-Inferenzdienste im Hyperscale: Die Kapazität von 288 GB HBM3e pro Karte eignet sich für den Inferenzbetrieb von Modellen mit langen Kontexten und großen Parameterzahlen; FP4 NVFP4 bildet die Full-Power-Stufe, die Attention-Leistung wird offiziell als gegenüber der Blackwell-Vorgängergeneration verdoppelt angegeben
- Training und Post-Training großer Modelle (SFT/RLHF): Die dichte Single-GPU-Leistung von 10 PFLOPS FP8 in Kombination mit der bidirektionalen NVLink-Interconnection von 1,8 TB/s eignet sich für Trainingscluster mit Mehr-Knoten- und Mehr-GPU-Skalierung
- Deployment als HGX B300 NVL16 8-GPU-Board: Die Einzelkarte ist die Standardeinheit auf dem 8-GPU-SXM-Board und entspricht dem Board-Gesamtwert von 2,1 TB Speicher — ausgerichtet auf den Aufbau rackskaliger KI-Fabriken
- Konfiguration von GB300-NVL72-Racks und DGX-B300-Systemen: Als zugrundeliegende GPU-Komponente des Grace-CPU-Superchips und der 8-Karten-Systeme, für den Beschaffungs- und Rechenaufwand von End-to-End-KI-Infrastruktur
Modelle der Familie
| Modell | Speicher | Verbrauch |
|---|
| NVIDIA T4 Vergleich | 16GB GDDR6 mit ECC (standardmäßig aktiviert) | 70W (Gesamtboardleistung, Standard) |
| NVIDIA A100 Vergleich | 40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECC | SXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W |
| NVIDIA H20 Vergleich | 96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News) | 400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen) |
| NVIDIA GB300 Vergleich | 288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB) | TGP bis 1400W |
| NVIDIA A30 Vergleich | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Vergleich | 24GB GDDR6X | 450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W) |
Videoerklärung VIDEO
Wichtige Punkte für Kauf und Prüfung
- Leistungsaufnahme und Stromversorgung: Das TGP dieser Karte liegt bei maximal 1400 W, deutlich über den 1200 W der Blackwell-Vorgängergeneration und den 700 W von Hopper; ein 8-Karten-DGX-B300-System erreicht 14,5 kW mit zwölf 3,2-kW-Netzteilen — Rack-Stromredundanz und flüssigkeitsgekühlte Kühlkapazität müssen im Rechenzentrum vorab kalkuliert werden; zusätzlich existiert eine HGX-Low-Power-SKU mit rund 1100 W, bei Anfragen ist die Leistungsaufnahme-Stufe zu bestätigen
- Verifikation der Leistungsstufen: Derselbe B300 existiert in einer Full-Power-Stufe (FP4 20 spars, 15 dicht PFLOPS) und einer HGX-Board-Low-Power-Stufe (pro GPU FP4 18 spars, 13,5 dicht PFLOPS); Verträge und Abnahmeprotokolle sollten die Leistungs- und Verbruchsstufe der gekauften SKU explizit ausweisen, um Board-Angaben mit Full-Power-Einzelkarten-Angaben nicht zu verwechseln
- Speicher- und Interconnection-Abnahme: Gebraucht-/Sofortware ist anhand der physischen Kapazität von 288 GB HBM3e pro Karte abzugleichen (auf Board-Ebene im HGX zusätzlich die konservative Gesamtangabe von 2,1 TB); eine nutzbare Kapazität unterhalb des physischen Werts ist normal; die Verifikation der bidirektionalen NVLink-Interconnection von 1,8 TB/s setzt die 8-Karten-SXM-Form mit passendem Substrat voraus — Nicht-SXM-Versionen erhalten diese Interconnect-Bandbreite nicht; PCIe ist Gen6, Mainboard und Switch müssen dazu passen
- Klarung der Beschaffungsgrenzen: Superchips mit Grace CPU fallen unter den GB300-Eintrag, komplette 8-GPU-Boards unter den HGX-B300-NVL16-Eintrag; bei der Anfrage nach einer einzelnen GPU sollte stets geklärt werden, welcher physischen Form das Angebot des Anbieters entspricht, um Fehlzuordnungen zu vermeiden
- Bewusstsein für Architektur-Kompromisse: In dieser Generation ist die INT8-Leistung gegenüber dem Vorgänger-Board stark geschrumpft (72 → 3 POPS), auch FP64 liegt nur noch bei 10 TFLOPS auf Board-Ebene; Bestandsgeschäfte, die auf INT8-Quantisierungs-Stacks oder FP64-HPC-Berechnungen setzen, sollten vor dem Kauf auf Kompatibilität geprüft werden
FAQ
Sind die 288 GB Speicher des B300 die Kapazität pro Karte? Was unterscheidet sie von den 2,1 TB auf Board-Ebene des HGX B300?
Die 288 GB sind die physische HBM3e-Kapazität im Package eines einzelnen B300-GPU, bestehend aus zwölf 12-Hi-HBM-Stacks. Das HGX B300 NVL16 8-GPU-Board weist einen Total Memory von nominal 2,1 TB aus — eine Board-Summe nach konservativer Rechnung mit rund 262 GB pro Karte, mit leichter Abweichung gegenüber 8 × 288 GB = 2,3 TB (DGX-B300-Angabe); die tatsächlich nutzbare Kapazität liegt zudem unterhalb der physischen. Beim Beschaffungsvergleich sind drei Betrachtungsweisen zu unterscheiden: physische Kapazität pro Karte, nominale Board-Kapazität und nutzbare Kapazität.
Was bringt der B300 gegenüber dem B200? Wird die FP4-Leistung verdoppelt?
Nein, nicht verdoppelt. Nach offizieller Angabe liegt die dichte FP4-Leistung des B300 bei 15 PFLOPS, +50 % gegenüber 10 PFLOPS beim B200; die sparsame FP4-Leistung bleibt bei beiden mit 20 PFLOPS gleich. Beim Speicher sind die 288 GB das 1,5-fache der Launch-Angabe von 192 GB beim B200. Die offiziell beworbenen '2x' beziehen sich auf die Attention-Leistung, nicht auf die FP4-Gesamtleistung. Zudem ist zu beachten, dass die INT8- und FP64-Leistung des B300 gegenüber dem B200 stark geschrumpft ist — ein Design-Kompromiss von Blackwell Ultra, der Tensor-Core-Ressourcen zugunsten von FP4 verlagert.
Worauf ist beim Kauf eines B300-Servers zu achten? Wie unterscheidet man Full-Power- von Low-Power-Stufen?
Vor allem drei Punkte klären: Erstens Verlustleistung und Kühlung — das TGP pro Karte liegt bei bis zu 1400 W, ein 8-Karten-System wie das DGX B300 bei 14,5 kW, üblicherweise sind flüssigkeitsgekühlte Racks und entsprechende Stromredundanz nötig; die Rechenzentrumsanpassung sollte vorab bewertet werden. Zweitens die SKU-Stufe: NVL72/DGX-Konfigurationen entsprechen der Full-Power-Stufe (FP4 20 spars, 15 dicht PFLOPS), während es auf HGX-B300-Board-Ebene eine Low-Power-Stufe mit pro GPU FP4 18 spars, 13,5 dicht PFLOPS gibt — im Vertrag ausdrücklich festhalten. Drittens die Form: Die NVLink-Interconnection von 1,8 TB/s setzt die SXM-Form mit passendem Substrat voraus; Komplettsysteme mit Grace CPU fallen unter den GB300-Eintrag und sind ein anderes Beschaffungsobjekt als eine einzelne B300-Karte.