Spec-Card SPEC CARD
NVIDIA Tesla P40
Der Bestseller unter den 24-GB-Karten für Edge-Inferenz: INT8-Inferenz-Flaggschiff der Pascal-Ära ohne Tensor Core. 24 GB großer Grafikspeicher auf einer Karte plus niedrige Gebrauchtpreise machen ihn zum umsatzstärksten Modell auf dem Gebrauchtmarkt für INT8-Inferenz mit kleinem Budget und den Einsatz kleiner LLMs
Überblick
Die NVIDIA Tesla P40 ist eine Rechenzentrum-Beschleunigerkarte auf Basis der Pascal-Architektur (GP102-Chip, Compute Capability 6.1) mit 3840 CUDA-Kernen, einer Spitzen-FP32-Leistung von 12 TFLOPS und einer Spitzen-INT8-Leistung (DP4A-Instruktionen) von 47 TOPS. Sie verfügt über 24 GB GDDR5 mit 384-Bit-Busbreite, die Onboard-ECC ist ab Werk aktiviert. Die Pascal-Generation besitzt keine Tensor Cores, ihre INT8-Beschleunigung basiert auf dem DP4A-Befehlssatz. Die Karte ist als Full-Height-/Full-Length-Modell mit passiver Kühlung auf zwei Slotbreiten ausgelegt, ohne Videoausgang, und verbindet sich per PCIe Gen3 x16 mit dem Host; NVLink wird nicht unterstützt. Typische Einsatzgebiete sind INT8-Quantisierung für Inferenz, Bilderkennung und die Bereitstellung kleiner Sprachmodelle — sie gehört zu den Hauptmodellen auf dem Gebrauchtmarkt für Inferenz mit kleinem Budget.
Kernspezifikationen
| Architektur | Pascal (GP102), Compute Capability 6.1 |
| Speicher | 24 GB GDDR5 (Onboard-ECC, ab Werk aktiviert, per nvidia-smi deaktivierbar; kein HBM2, daher kein NVLink) |
| VRAM-Bandbreite | 346 GB/s |
| Speicherbusbreite | 384bit |
| Rechenleistung | FP32 12 TFLOPS / INT8(DP4A) 47 TOPS (Pascal-Generation ohne Tensor Core) |
| CUDA-Kerne | 3840 (30 SM × 128, per deviceQuery verifiziert) |
| Verbrauch | 250 W (nvidia-smi-Default = maximale Leistungsgrenze 250,00 W, min 125 W; Stromversorgung über 8-Pin-CPU/EPS-Stecker) |
| Interconnect | PCIe Gen3 x16 (gemessene Link Width 16x), kein NVLink |
| Erscheinungsjahr | 2016 (Vorstellung am 2016-09 auf der GTC China in Peking · offizielle Pressemitteilung vom 2016-09-12; Markteinführung 2016-10) |
| Formfaktor | Full Height / Full Length, passive Kühlung auf zwei Slotbreiten (NVIDIA Form Factor 3.0, 4,376 Zoll × 10,5 Zoll ≈ 111,15 mm × 266,7 mm, ohne Lüfter und ohne Videoausgang) |
| Taktraten | Boost 1531 MHz / Speichertakt effektiv 7,2 Gbps (deviceQuery: 3615 MHz) |
| Alleinstellungsmerkmale | Pascal-Inferenz-Flaggschiff: 47 TOPS Inferenzdurchsatz per INT8(DP4A)-Befehlssatz, 24 GB Speicher pro Karte — die größte GDDR5-Bestückung ihrer Zeit |
Spezifikationen anhand offizieller Quellen verifiziert (
Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers
Einsatzszenarien
- INT8-Quantisierung für Inferenz auf DP4A-Basis, etwa für Bildklassifizierung, Objekterkennung und andere Vision-Modelldienste
- Lokale Bereitstellung und Offline-Batch-Inferenz kleiner Sprachmodelle
- Dauerhaft betriebene Inferenzknoten in Edge-Rechenzentren oder Colocation-Umgebungen; die passive Kühlung passt ideal zu Rackserverschrank-Installationen
- Experimentierumgebungen und Lehrcluster mit begrenztem Budget für Modellvalidierung und Entwicklung im CUDA-6.1-kompatiblen Ökosystem
Modelle der Familie
| Modell | Speicher | Verbrauch |
|---|
| NVIDIA T4 Vergleich | 16GB GDDR6 mit ECC (standardmäßig aktiviert) | 70W (Gesamtboardleistung, Standard) |
| NVIDIA A100 Vergleich | 40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECC | SXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W |
| NVIDIA H20 Vergleich | 96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News) | 400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen) |
| NVIDIA GB300 Vergleich | 288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB) | TGP bis 1400W |
| NVIDIA A30 Vergleich | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Vergleich | 24GB GDDR6X | 450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W) |
Videoerklärung VIDEO
Wichtige Punkte für Kauf und Prüfung
- Die Karte ist als Full-Height-/Full-Length-Design mit passiver Kühlung auf zwei Slotbreiten ausgelegt und hat keinen eigenen Lüfter. Vor dem Kauf muss geprüft werden, ob das Gehäuse über einen passenden Server-Luftstrom verfügt; die Stromversorgung erfolgt über einen 8-Pin-CPU-Stecker (EPS) — Steckertyp und Leistungsreserve des Netzteils sind zu verifizieren
- Kein Videoausgang, kein NVLink: Die Vernetzung mehrerer Karten läuft ausschließlich über PCIe Gen3 x16. Bei Mehr-GPU-Konfigurationen sollten PCIe-Lanes und Topologie-Zuteilung beachtet werden
- Großer Gebrauchtmarkt-Umlauf: Bei der Prüfung per deviceQuery/nvidia-smi CUDA-Kernanzahl, Speicherkapazität und ECC-Status abgleichen. Beachten: Die ab Werk aktivierte ECC belegt einen Teil des Speichers — den tatsächlich nutzbaren Speicher verifizieren und die Stabilität unter langem Volllastbetrieb testen
FAQ
Kann man mit der Tesla P40 große Sprachmodelle betreiben?
Grundsätzlich ja, aber mit Architektur-Einschränkungen. Die P40 hat keine Tensor Cores, und auch der FP16-Durchsatz ist keine Stärke. In der Praxis setzt man daher meist auf INT8-Quantisierung und erzielt mit DP4A-Instruktionen guten Durchsatz. Die 24 GB pro Karte eignen sich für Modelle mit kleinen Parameterzahlen oder quantisierte Varianten; für größere Modelle oder höheren Durchsatz muss man die Bandbreitenlimits einer PCIe-Mehr-Karten-Lösung abwägen oder auf neuere Architekturen umsteigen.
Warum ist die P40 passiv gekühlt, und kann sie in einen normalen Tower?
Die P40 ist eine reine Serverkarte mit Full-Height-/Full-Length-Passivkühlung auf zwei Slotbreiten, ohne Lüfter und ohne Videoausgang; sie ist auf den gezielten Luftstrom eines Servergehäuses angewiesen. In einem normalen Tower- oder Desktop-Gehäuse drohen Überhitzung und thermisches Drosseln. Wer sie dennoch dort einsetzen will, benötigt einen nachgerüsteten Turbinenkühler und eine verifizierte Airflow-Lösung.
Worauf sollte man beim Kauf einer gebrauchten P40 achten?
Nach dem Einbau per nvidia-smi und deviceQuery prüfen, ob die PCIe-Anbindung Gen3 x16 läuft, sowie Speicherkapazität und ECC-Status abgleichen und die GPU-Boost-Taktraten kontrollieren. Anschließend einen dauerhaften Volllast-Stresstest fahren und Temperatur sowie Stabilität beobachten; zudem die ECC-Fehlerzähler auslesen, um Speicherdefekte oder eine Vorgeschichte als Mining-/Hochlastkarte zu erkennen. Auch prüfen, ob Wärmeleitpaste und Kühlumgebung erneuert werden müssen.