Spec-Card SPEC CARD
AMD Instinct MI325X
256GB HBM3E+6TB/s, gleicher Chip wie die MI300X in der XL-Variante, Modelle mit 70 Milliarden Parametern passen mit Reserve auf eine einzelne Karte, Verbrauch im Teraflop-Klassen-Segment erfordert dedizierte Stromversorgung im Rechenzentrum, das neue Flaggschiff für Inferenz mit großem Speicher

Offizielles Herstellerbild von AMD
Überblick
Der AMD Instinct MI325X ist ein auf der CDNA3-Architektur basierender Datenzentrum-Beschleuniger von AMD und stellt ein Speicher-Upgrade innerhalb der MI300X-Familie dar: Wie das Vorgängermodell setzt er auf einen hybriden Fertigungsprozess aus TSMC 5nm+6nm mit 19.456 Stream-Prozessoren, der Grafikspeicher wurde jedoch auf 256GB HBM3E erweitert und liefert mit 8192-bit Busbreite eine Bandbreite von 6TB/s (die vorherige MI300X bot 192GB HBM3 mit 5,3TB/s). Die FP8-Spitzenleistung bleibt mit 2,61 PFLOPs auf gleichem Niveau. Die Karte kommt als OAM-Modul mit einer Board-Spitzenleistung von 1000W, bietet 8 Infinity-Fabric-Links (jeweils 128GB/s pro Link) für Multi-GPU-Vernetzung und ist über PCIe 5.0 x16 mit dem Host verbunden. Sie zielt auf Inferenz- und Trainingsszenarien mit sehr großem Speicherbedarf ab.
Kernspezifikationen
| Architektur | CDNA3 |
| Speicher | 256 GB |
| Speichertyp | HBM3E |
| Speicherbusbreite | 8192-bit |
| VRAM-Bandbreite | 6 TB/s |
| FP8-Rechenleistung | 2.61 PFLOPs |
| FP16-Leistung | 1.3 PFLOPs |
| FP32-Leistung | 163.4 TFLOPs |
| FP64-Leistung | 81.7 TFLOPs |
| INT8-Leistung | 2.6 POPs |
| Verbrauch TBP | 1000W Peak |
| Interconnect | PCIe® 5.0 x16 |
| Infinity Fabric Links | 8 |
| Infinity-Fabric-Bandbreite | 128 GB/s |
| Stream-Prozessoren | 19,456 |
| Formfaktor | OAM Module |
| Last-Level-Cache LLC | 256 MB |
| Fertigungsprozess | TSMC 5nm | 6nm FinFET |
Spezifikationen anhand offizieller Quellen verifiziert (
Offizielle Benchmarks , aktualisiert am 09.10.2026) · Der tatsächliche Preis richtet sich nach dem Angebot des Verkäufers
Einsatzszenarien
- Sehr große Modelle auf einer einzelnen Karte: Mit 256GB HBM3E lassen sich die Gewichte großer Sprachmodelle mit hunderten Milliarden Parametern auf einer Karte laden, während ausreichend KV-Cache-Speicher für sehr lange Kontexte reserviert bleibt – das reduziert den Kommunikationsaufwand bei Multi-GPU-Tensor-Parallelismus.
- Online-Inferenzdienste für große Modelle: Die FP8-Leistung von 2,61 PFLOPs ermöglicht hochdurchsatzfähige Inferenz, und die 6TB/s Speicherbandbreite mildert den Decode-Engpass bei großen gleichzeitigen Batches – ideal für produktionsreife Inferenzdienste.
- Multi-GPU-Training und Cluster-Erweiterung: 8 Infinity-Fabric-Links unterstützen schnelle Multi-GPU-Vernetzung; in einem OAM-Baseboard-Design lassen sich 8-Karten-Systeme für Training und Fine-Tuning großer Modelle aufbauen.
- High-Performance Computing: Mit 81,7 TFLOPs FP64 in doppelter Genauigkeit eignet sich die Karte für klassische HPC-Workloads wie Strömungssimulation und Wettermodelle.
Modelle der Familie
Videoerklärung VIDEO
Wichtige Punkte für Kauf und Prüfung
- Gesamtssystem-Formfaktor prüfen: Der MI325X ist ein OAM-Modul mit passiver Kühlung und ist auf UBB-Baseboards sowie erzwungene Luftströmung im Gehäuse angewiesen; er lässt sich nicht direkt in einen normalen luftgekühlten PCIe-Slot stecken. Vor dem Kauf muss die Kompatibilität mit dem Server-Gesamtdesign geklärt werden.
- Strom- und Kühlreserven kalkulieren: Die Board-Spitzenleistung erreicht 1000W (über den 750W der vorherigen MI300X); bei Multi-GPU-Einsatz in einem Gehäuse müssen Stromversorgung des Racks, Stromschienen und Kühlleistung einzeln verifiziert werden.
- Software- und Interconnect-Status bei der Abnahme: Verifizieren Sie den ROCm-Treiber-Support für dieses Modell, prüfen Sie die ECC-Logs des Speichers auf Auffälligkeiten und fordern Sie vom Verkäufer Testberichte zur Infinity-Fabric-Konnektivität und Volllast-Stabilität.
FAQ
Wie große Modelle laufen auf einer einzelnen MI325X?
Mit 256GB HBM3E lassen sich die Gewichte großer Sprachmodelle mit hunderten Milliarden Parametern vollständig auf einer Karte laden, plus Reserve für KV-Cache bei langen Kontexten; größere Modelle lassen sich über die 8 Infinity-Fabric-Links per Multi-GPU-Tensor-Parallelismus aufteilen.
Was ist der Hauptunterschied zwischen MI325X und MI300X?
Die Kern-Spezifikationen sind identisch (FP8 jeweils 2,61 PFLOPs); der Unterschied liegt im Speicher: Der MI325X bietet 256GB HBM3E mit 6TB/s, die MI300X 192GB HBM3 mit 5,3TB/s; die Board-Spitzenleistung stieg von 750W auf 1000W. Kurz gesagt: gleiche Leistungsklasse, mehr Speicher.
Worauf beim Kauf eines MI325X aus Lagerbestand achten?
Dieses Modell wird hauptsächlich als Gesamt-/Baseboard-Lösung gehandelt. Beim Kauf sollten die Passung von OAM-Modul und UBB-Baseboard bestätigt, die Stromversorgung für 1000W Spitzenleistung sichergestellt, die ROCm-Softwarestack-Version und die ECC-Aufzeichnungen geprüft und Testprotokolle für Multi-GPU-Interconnect sowie Burn-in-Test unter Volllast angefordert werden.