Spec-Card SPEC CARD
NVIDIA Tesla V100 SXM3 32GB
Die V100 gehört zur High-Performance-S-Klasse: offiziell auf 1134 GB/s Bandbreite, 130 Tensor-TFLOPS und 16.4 FP32-TFLOPS gebracht (mit 32 GB HBM2 als Standard) — unter den Volta-Karten ist die 32-GB-Variante mit großem Speicher auf dem Gebrauchtmarkt die gefragteste; zudem wird das ausschließlich für die DGX-2 konfigurierte SXM3-32GB-Modul erfasst (350 W, vollständige Vernetzung per NVSwitch, SXM3-Sockel nicht kompatibel mit SXM2-Trägerplatinen) — die Eröffnungshardware der Ära des „16 GPUs pro Maschine“ im großen Graph-Heterogeneous Computing — beide seltenen 32-GB-Formfaktoren sind hier gemeinsam archiviert
Überblick
Die NVIDIA Tesla V100 SXM3 32GB ist eine Datencenter-Beschleunigerkarte auf Basis der Volta-Architektur (GV100), ausgestattet mit 32 GB HBM2-Speicher (4096-bit Interface, mit ECC), 5120 CUDA-Kernen, 640 Tensor Cores der ersten Generation und 2560 FP64-Kernen. Sie nutzt ein SXM3-Mezzanine-Interface und wurde speziell für die DGX-2/HGX-2-Plattformen entworfen, die über NVSwitch eine vollständige Vernetzung von 16 GPUs ermöglichen. Das Modul richtet sich an groß angelegtes Deep-Learning-Training, High-Performance Computing und heterogenes Computing mit großen Graphen und war die zentrale Recheneinheit der KI-Systeme auf Multi-Rack-Ebene der Volta-Ära; heute ist es vor allem auf dem Gebraucht- und Ausbaustückmarkt zu finden.
Kernspezifikationen
| Architektur | Volta (GV100) |
| Speicher | 32GB HBM2 (CoWoS) mit ECC, 4096 bit (einzige Kapazität der V100S; das SXM3-32GB-Modul ist das kapazitätsgleiche, exklusiv für die DGX-2 konfigurierte Modul) |
| VRAM-Bandbreite | V100S: 1134 GB/s; für das SXM3-32GB-Modul gibt es keinen eigenen Eintrag im offiziellen Datenblatt, unabhängige Quellen ordnen es der 900-GB/s-Klasse zu — die 1134 GB/s gelten offiziell nur für die V100S-PCIe-Spalte |
| Speicherbusbreite | 4096bit |
| Rechenleistung | V100S offizielle Angaben: FP32 16.4 / FP64 8.2 / Tensor 130 TFLOPS; für das SXM3-32GB-Modul existiert keine eigene offizielle Tabelle, es wird der SXM2-Zeile zugeordnet (15.7/7.8/125), 16.4/130 gilt offiziell nicht für das SXM3 |
| CUDA-Kerne | 5120 (80 SM) / Tensor Core 640 (erste Generation) / FP64-Kerne 2560 |
| Verbrauch | SXM3-Modul 350 W; V100S PCIe 250 W |
| Interconnect | V100S: PCIe Gen3 x16, 32 GB/s, ohne NVLink; SXM3-32GB: NVLink 2.0 mit ×12 Links, vollständig vernetzt über NVSwitch (exklusiv für DGX-2/HGX-2, SXM3-Sockel nicht kompatibel mit SXM2-Trägerplatinen) |
| Erscheinungsjahr | V100S: 2019 (Marktstart 2019-11-26, zum Launch nur als PCIe-3-Variante); SXM3-32GB-Modul: 2018-03-27 gemeinsam mit der DGX-2 vorgestellt (vor der V100S) |
| Fertigung | TSMC 12nm FFN, 21,1 Mrd. Transistoren, 815 mm² |
| Formfaktor | SXM3-Mezzanine-Modul (exklusiv für die DGX-2, 16-GPU-NVSwitch-Backplane) / die V100S als PCIe-Karte im Dual-Slot-Format, Full-Height/Full-Length mit passiver Kühlung |
| Alleinstellungsmerkmale | Gleichtaktige V100 mit erhöhter Taktrate, S-Suffix für die High-Performance-Version: Bandbreite 900→1134 GB/s, Tensor 125→130, FP32 15.7→16.4 (offiziell nur als PCIe-Variante umgesetzt); das SXM3-32GB-Modul ist die Eröffnungskarte der Ära der DGX-2/NVSwitch-Vollvernetzung, nvidia-smi erkennt sie als Tesla-V100-SXM3-32GB |
Spezifikationen anhand offizieller Quellen verifiziert (
Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers
Einsatzszenarien
- Groß angelegtes Deep-Learning-Modelltraining, insbesondere Modelle aus dem Bereich Vision und Sprache, die 32 GB großen Speicher benötigen und auf Tensor-Core-Beschleunigung für FP16-Berechnungen setzen
- Multi-GPU-Kollektivkommunikation und modellparalleles Training auf der NVSwitch-Vollvernetzungsarchitektur der DGX-2/HGX-2-Plattform
- Wissenschaftliche Doppelpräzisionsberechnungen wie Strömungsmechanik, Molekulardynamik oder Quantenchemie — HPC-Workloads, die auf FP64-Leistung angewiesen sind
- Heterogenes Computing mit sehr großen Graphdaten und Wissensgraphen, bei dem der Speicher mehrerer GPUs innerhalb eines Knotens aggregiert werden muss, um große Graphstrukturen zu verarbeiten
Modelle der Familie
| Modell | Speicher | Verbrauch |
|---|
| NVIDIA T4 Vergleich | 16GB GDDR6 mit ECC (standardmäßig aktiviert) | 70W (Gesamtboardleistung, Standard) |
| NVIDIA A100 Vergleich | 40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECC | SXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W |
| NVIDIA H20 Vergleich | 96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News) | 400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen) |
| NVIDIA GB300 Vergleich | 288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB) | TGP bis 1400W |
| NVIDIA A30 Vergleich | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Vergleich | 24GB GDDR6X | 450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W) |
Videoerklärung VIDEO
Wichtige Punkte für Kauf und Prüfung
- Formfaktor und Kompatibilität sind die erste Hürde: Das SXM3-Mezzanine-Modul passt ausschließlich auf die dedizierte Backplane der DGX-2/HGX-2, der Sockel ist nicht kompatibel mit SXM2-Trägerplatinen. Vor dem Kauf unbedingt das genaue System- oder Trägerplatinen-Modell verifizieren — ein SXM3-Modul lässt sich nicht ohne Weiteres in einen gewöhnlichen Server oder ein SXM2-Mainboard einbauen.
- Stromversorgung und Kühlung müssen am Gesamtsystem bewertet werden: Das Modul ist ein Hochleistungsdesign, das auf die Stromversorgung und die flüssigkeitsgekühlten bzw. zwangsbelüfteten luftgekühlten Lösungen auf DGX-2-Niveau angewiesen ist. Am Stückgutmarkt existiert praktisch keine separate Kühlhardware; beim Gebrauchtkauf sollte man daher als Einheit ein komplettes DGX-2/HGX-2-System oder eine verifizierte Kompatibel-Plattform anpeilen, um nach dem Einzelkauf ohne Deployment-Möglichkeit nicht dazustehen.
- Die Interconnect-Architektur bestimmt den Cluster-Wert: Das NVLink 2.0 setzt auf NVSwitch für die Vollvernetzung; ausgebaut als Einzelkarte geht der Interconnect-Vorteil verloren. Bei der Abnahme sollte man per nvidia-smi die korrekte Erkennung als Tesla-V100-SXM3-32GB prüfen, den ECC-Status und die Speichergesundheit kontrollieren und die Herkunft als intaktes Systemausbauteil verifizieren, um das Risiko von Refurbished-Ware zu senken.
FAQ
Was ist der Unterschied zwischen der Tesla V100 SXM3 32GB und der normalen V100 PCIe 32GB?
Beide nutzen den GV100-Chip und 32 GB HBM2, unterscheiden sich aber komplett im Formfaktor: Das SXM3 ist ein Mezzanine-Modul, das ausschließlich auf der DGX-2/HGX-2-Plattform zum Einsatz kommt und über NVSwitch eine 16-GPU-Vollvernetzung ermöglicht; die PCIe-Version ist eine standardmäßige Dual-Slot-Passivkarte über PCIe Gen3 x16 ohne NVLink. Ein SXM3-Modul lässt sich nicht auf einem gewöhnlichen Server-Mainboard betreiben.
Kann man lose Karten kaufen und sich selbst eine SXM3-Plattform zusammenbauen?
Praktisch nicht machbar. Der SXM3-Sockel ist ein exklusives Format der dedizierten DGX-2/HGX-2-Backplanes; unabhängige SXM3-Trägerplatinen sind im freien Handel nicht erhältlich, und das Modul ist auf die Stromversorgung und Kühlung des Gesamtsystems angewiesen. Der realistische Weg zu diesem Modul führt über den Kauf eines kompletten DGX-2/HGX-2-Systems oder eines offiziell kompatiblen Komplettgeräts.
Lohnt sich die V100 SXM3 32GB heute noch für Deep Learning?
Wenn das Ziel ein groß angelegtes Multi-GPU-Training ist und eine komplette Plattform auf DGX-2-Niveau verfügbar ist, behalten die NVSwitch-Vollvernetzung und der große Speicher in bestimmten Szenarien mit großen Graphen und Multi-GPU-Parallelität ihren Wert. Als Architektur der ersten Tensor-Core-Generation sollte die Bewertung auf dem Gebrauchtmarkt aber als Gesamtsystem und in Abhängigkeit einer klar definierten Workload erfolgen — lose Einzelkarten sind mangels Deployment-Möglichkeit kaum sinnvoll.