SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung
Spec-Card SPEC CARD

NVIDIA H100 SXM

Die faktische Standardkarte für KI-Training — Kern der DGX/HGX H100, Rückgrat von Clustern mit zehntausenden GPUs, härteste Währung auf dem Gebraucht- und Futures-Markt, König der Werthaltigkeit

Überblick

Die NVIDIA H100 SXM ist eine Beschleunigerkarte für Rechenzentren auf Basis der Hopper-Architektur. Sie bildet das Kernstück der DGX- und HGX-H100-Systeme und ist derzeit die de-facto-Standardhardware für großangelegtes KI-Training. Sie ist in SXM5-Bauform ausgeführt, verfügt über 80 GB HBM3-Speicher und bietet über NVLink der vierten Generation eine Interconnect-Bandbreite von 900 GB/s zwischen den GPUs; PCIe Gen5 wird nativ unterstützt. Ihre Tensor Cores decken Präzisionen von FP64 bis FP8 ab, und per MIG lässt sich die Karte in bis zu sieben Instanzen aufteilen. Die Karte ist weithin im Vortraining großer Sprachmodelle, im Inferenzbetrieb und in HPC-Clustern im Einsatz; zugleich erzielt sie auf dem Gebrauchtmarkt aufgrund knapper Verfügbarkeit eine überdurchschnittlich hohe Wertstabilität.

Kernspezifikationen

ArchitekturNVIDIA Hopper (GH100-Chip, TSMC-4N-Sonderprozess, 80 Milliarden Transistoren, 814 mm², Compute Capability 9.0)
Speicher80 GB HBM3 (SXM5-Ausführung, 5 HBM3-Stacks); PCIe-Version 80 GB HBM2e (5 Stacks, 2 TB/s)
Speicherbusbreite5120 Bit (SXM5 und PCIe-Version jeweils 10 Speichercontroller à 512 Bit)
VRAM-Bandbreite3,35 TB/s (SXM5); PCIe-Version 2 TB/s
RechenleistungFP8 Tensor Core 3.958 TFLOPS (mit Sparsity, dicht 1.979); FP16/BF16 TC 1.979*; TF32 TC 989*; FP64 TC 67; FP32 67; FP64 34 (SXM5-Ausführung, *=mit Sparsity)
VerbrauchSXM5 bis 700 W (konfigurierbar); PCIe-Version 350 W
InterconnectNVLink 4.0 mit 900 GB/s (SXM5, 18 Links) + PCIe Gen5 x16 mit 128 GB/s; PCIe-Version: PCIe Gen5 mit 128 GB/s, optional NVLink-Bridge für Zwei-Karten-Betrieb mit 600 GB/s
Erscheinungsjahr2022 (Ankündigung auf der GTC am 22.03.2022, SXM5-Marktstart Q3 2022)
SM und CUDA-Kerne132 SM / 16.896 FP32-CUDA-Kerne (SXM5); PCIe-Version 114 SM / 14.592
Boost-TaktSXM5: 1830 MHz (FP8/FP16/BF16/TF32 TC) / 1980 MHz (FP64 TC sowie FP32/FP64); PCIe-Version: 1620/1755 MHz
L2-Cache50MB
MIG-SlicingSecure MIG der zweiten Generation, bis zu 7 Instanzen à 10 GB
Codecs7 NVDEC + 7 NVJPG
FormfaktorSXM5-Modul (flüssigkeitsgekühlt oder luftgekühlt je nach Gesamtsystem, im HGX/DGX H100 mit 4 oder 8 Karten); PCIe-Version als Dual-Slot-Karte mit Luftkühlung
Spezifikationen anhand offizieller Quellen verifiziert ( Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers

Einsatzszenarien

Modelle der Familie

ModellSpeicherVerbrauch
NVIDIA T4 Vergleich16GB GDDR6 mit ECC (standardmäßig aktiviert)70W (Gesamtboardleistung, Standard)
NVIDIA A100 Vergleich40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECCSXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W
NVIDIA H20 Vergleich96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News)400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen)
NVIDIA GB300 Vergleich288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB)TGP bis 1400W
NVIDIA A30 Vergleich24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Vergleich24GB GDDR6X450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W)

Videoerklärung VIDEO

Weiterführende Lektüre:H100 Deep-Dive-Eintrag (20 Abschnitte) · Deep-Dive-EintragH100 NVL Thin Card · Deep-Dive-Eintrag

Wichtige Punkte für Kauf und Prüfung

FAQ

Worin unterscheiden sich H100 SXM und H100 PCIe, und welche Variante sollte man wählen?
Die SXM-Variante ist ein Onboard-Modul mit 900 GB/s GPU-zu-GPU-Interconnect über NVLink und höheren Tensor-Core-Spezifikationen — ideal für große Trainingscluster mit vielen Karten. Die PCIe-Version ist eine standardmäßige Dual-Slot-Karte mit Luftkühlung, optionaler NVLink-Bridge (zwei Karten, geringere Bandbreite), besserer Kompatibilität und niedrigerer Einstiegshürde — passend für Einzelserver und kleinere Umgebungen. Wer Cluster-Skalierbarkeit und Spitzenleistung sucht, nimmt SXM; wer flexible Bereitstellung priorisiert, PCIe.
Unterstützt die H100 MIG? Auf wie viele Nutzer lässt sich eine Karte aufteilen?
Ja. Die MIG-Funktion der H100 SXM allows — korrekt: ermöglicht — die Aufteilung einer Karte in bis zu 7 Instanzen mit jeweils 10 GB VRAM. Das eignet sich für Inferenzdienste, Entwicklungs- und Testumgebungen sowie Multi-Tenant-Szenarien und verbessert Isolation und Auslastung.
Lohnt sich eine gebrauchte H100? Wie steht es um die Wertstabilität?
Die H100 ist derzeit die Haupt-Hardware für großangelegtes KI-Training; die Nachfrage bleibt hoch, und auf dem Gebrauchtmarkt liegt ihr Preisniveau deutlich über dem der meisten Hardware derselben Generation — sie gilt als werthaltige Kategorie. Beim Kauf sollten jedoch Herkunftslegalität, Garantiestatus und Hardwarezustand (VRAM, NVLink, Kühlung) gründlich geprüft und die Spezifikation per Test am Gerät bestätigt werden, bevor abgeschlossen wird.
Vertiefende Lektüre:NVIDIA A10 · Deep-Dive-EintragNVIDIA A100 · Deep-Dive-EintragAIXX Pedia · Deep-Dive-Eintrag
Datenstand 10.10.2026 · Deep-Dive-Eintrag-Upgrade über Redaktionsrichtlinien Prozess
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX