SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung
Spec-Card SPEC CARD

NVIDIA T4

Eine der meistdeployten Inferenzkarten aller Zeiten: 70 W Slot-Power, Single-Slot, Low-Profile, passiv gekühlt – passt in praktisch jeden Server. INT8 mit 130 TOPS für Multi-Precision-Inferenz kombiniert mit 38 parallelen Video-Decode-Streams. Die T4-Instanzen der großen Cloud-Anbieter (z. B. AWS G4dn mit 8 Karten) haben riesige Bestände geschaffen, was sie zur am leichtesten verfügbaren Einstiegs-Inferenzkarte auf dem Gebrauchtmarkt macht.

Überblick

Die NVIDIA T4 ist eine PCIe-Beschleunigerkarte auf Basis der Turing-Architektur mit einem TU104 GPU, ausgestattet mit 320 Tensor Cores und 40 RT Cores. Der 16 GB GDDR6-Speicher ist über ein 256-bit-Interface angebunden, die Anbindung an den Host erfolgt über x16 PCIe Gen3. Die typische Performance liegt bei 8,1 TFLOPS Single Precision, 65 TFLOPS gemischte Präzision, 130 TOPS INT8 und 260 TOPS INT4. Die T4 ist als passive Single-Slot-Karte in halber Bauhöhe und halber Länge ausgelegt, die Boardschnittstellenleistung ist auf 70 W begrenzt, ein externer Poweranschluss entfällt – ideal für Server mit hoher Dichte. Sie eignet sich zugleich für Deep-Learning-Inferenz und Video-Decode-Beschleunigung und ist als Allzweck-Inferenzkarte in Cloud-Instanzen und Edge-Servern weit verbreitet.

Kernspezifikationen

ArchitekturTuring (TU104-895)
Speicher16GB GDDR6 mit ECC (standardmäßig aktiviert)
VRAM-Bandbreite320 GB/s (in frühen Fassungen des Datenblatts mit 300 GB/s angegeben)
Speicherbusbreite256bit
RechenleistungFP32 8,1 TFLOPS / FP16·FP32 gemischte Präzision 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS
CUDA-Kerne2,560 (40 SM) / Tensor Core 320 / RT Core 40
Verbrauch70W (Gesamtboardleistung, Standard)
InterconnectPCIe Gen3 x16 (Betrieb mit x8 möglich, Interconnect-BW 32 GB/s)
Erscheinungsjahr2018 (Product Brief v01, Erstfassung 24.10.2018, Datenblatt Dec18 © 2018 NVIDIA)
FormfaktorSingle-Slot, halbe Bauhöhe und halbe Länge, Low-Profile 6,6 Zoll (Länge 169,53 mm), passive Kühlung, Kartengewicht 301 g
TaktratenBase 585 MHz / Boost 1590 MHz (Base auf die 70-W-Leistungsgrenze abgestimmt)
Media Engine1080p30-Decode: H.264 32 Streams / HEVC 44 Streams / VP9 32 Streams
SR-IOVSupported; 16 VF (unterstützt)
Fertigung12 nm FFN, 13,6 Mrd. Transistoren, 545 mm²
Compute APIsCUDA, NVIDIA TensorRT, ONNX
Spezifikationen anhand offizieller Quellen verifiziert ( Offizielle Benchmarks , aktualisiert am 10.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers

Einsatzszenarien

Modelle der Familie

ModellSpeicherVerbrauch
NVIDIA A100 Vergleich40GB HBM2 / 80GB HBM2e in zwei Varianten (80-GB-Variante nachgelegt auf der SC20 am 16.11.2020), mit ECCSXM4 400W (40GB/80GB identisch); PCIe-Version 40GB 250W / 80GB 300W
NVIDIA H20 Vergleich96GB HBM3 (konsistent bei Flopper/VipraTech/Tencent News)400W TDP (dreifach belegt: Flopper/VipraTech-Datenblatt/Tencent News mit „Wärmeleistung 400W“; widersprüchliche Angabe 350W im VipraTech-Fließtext verworfen)
NVIDIA GB300 Vergleich288GB HBM3e (pro GPU-Package; 576GB im Superchip; parallel HGX auf Board-Ebene 2,1 TB / Rack 20 TB)TGP bis 1400W
NVIDIA A30 Vergleich24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Vergleich24GB GDDR6X450W TGP (Spiele im Schnitt 315W, empfohlenes Netzteil 850W)
NVIDIA RTX PRO 6000 Blackwell Vergleich96GB GDDR7 mit ECC (meistadressierter Profi-Workstation-GPU)600W Gesamtleistung (offiziell), Stromversorgung 1x PCIe CEM5 16-pin, doppelter Flow-Through-Kühler

Videoerklärung VIDEO

Wichtige Punkte für Kauf und Prüfung

FAQ

Braucht die T4 externe Stromversorgung? Passt sie in jeden normalen Server?
Die T4 hat eine Leistungsaufnahme von maximal 70 W und wird vollständig über den PCIe-Slot versorgt – ein externes Netzkabel ist nicht erforderlich. Dank ihres passiven Single-Slot-Designs in halber Bauhöhe und Länge passt sie in die meisten Standardserver (auch 1U-/2U-Rackserver). Allerdings setzt die passive Kühlung einen gerichteten Luftstrom voraus; in normalen Desktop-Gehäusen mit schwacher Luftführung sollte man sie nur mit Vorsicht einsetzen.
Eignet sich die T4 für LLM-Inferenz? Reichen 16 GB VRAM aus?
Die T4 ist für Inferenz statt Training ausgelegt. Die 16 GB GDDR6 fassen quantisierte kleinere und mittlere Modelle (z. B. INT8/INT4-quantisierte Sprach- oder Vision-Modelle); in Kombination mit TensorRT arbeitet sie effizient. Bei größeren Modellen braucht es Quantisierung, stufenweises Nachladen oder ein Multi-GPU-Setup – wer mehr Durchsatz will, sollte neuere Inferenzkarten in Betracht ziehen.
Lohnt sich eine gebrauchte T4? Worauf beim Kauf achten?
Die T4 wird in den Inferenzinstanzen vieler großer Cloud-Anbieter massenhaft eingesetzt, Bestände und Gebrauchtangebote sind reichlich vorhanden und die Einstiegshürde preislich niedrig – eine gängige Wahl für Inferenz und Video-Transkodierung. Beim Kauf prüfen, ob sich ECC aktivieren lässt und der VRAM-Stresstest fehlerfrei läuft, Volllast-Temperatur und Throttling-Verhalten unauffällig sind, Decode- und Tensor-Core-Funktionen intakt sind, und SN sowie Garantiestatus abgleichen.
Vertiefende Lektüre:NVIDIA A10 · Deep-Dive-EintragNVIDIA A100 · Deep-Dive-EintragAIXX Pedia · Deep-Dive-Eintrag
Datenstand 10.10.2026 · Deep-Dive-Eintrag-Upgrade über Redaktionsrichtlinien Prozess
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX