Fiche technique SPEC CARD
AMD Instinct MI325X
256 Go HBM3E + 6 To/s, la même puce que la MI300X en version XL, de quoi charger un modèle de 70 milliards de paramètres sur une seule carte avec de la marge, une consommation d'environ 1 kW qui exige une alimentation dédiée en salle serveur, le nouveau champion du LLM à très grande mémoire

Image officielle du fabricant AMD
Vue d'ensemble
AMD Instinct MI325X est un accélérateur datacenter d'AMD basé sur l'architecture CDNA3 ; il constitue la déclinaison à mémoire étendue de la famille MI300X : même procédé hybride TSMC 5 nm + 6 nm et mêmes 19 456 stream processors, mais la mémoire passe à 256 Go HBM3E, offrant 6 To/s de bande passante avec une interface 8192 bits (contre 192 Go HBM3 et 5,3 To/s pour la MI300X), avec une puissance FP8 de pointe de 2,61 PFLOPs, inchangée dans cette gamme. La carte se présente sous forme de module OAM, avec une consommation de pointe de 1000 W au niveau carte, 8 liaisons Infinity Fabric (128 Go/s par liaison) pour l'interconnexion multi-GPU, et une connexion à l'hôte via PCIe 5.0 x16 ; elle cible l'inférence et l'entraînement de grands modèles nécessitant une capacité mémoire hors norme.
Spécifications clés
| Architecture | CDNA3 |
| Mémoire vidéo | 256 GB |
| Type de mémoire | HBM3E |
| Largeur du bus mémoire | 8192-bit |
| Bande passante mémoire | 6 TB/s |
| Puissance de calcul FP8 | 2.61 PFLOPs |
| Puissance FP16 | 1.3 PFLOPs |
| Puissance FP32 | 163.4 TFLOPs |
| Puissance FP64 | 81.7 TFLOPs |
| Puissance INT8 | 2.6 POPs |
| TBP (consommation) | 1000W Peak |
| Interconnexion | PCIe® 5.0 x16 |
| Infinity Fabric Links | 8 |
| Bande passante Infinity Fabric | 128 GB/s |
| Processeurs de flux | 19,456 |
| Format | OAM Module |
| Cache de dernier niveau (LLC) | 256 MB |
| Procédé de fabrication | TSMC 5nm | 6nm FinFET |
Spécifications vérifiées contre les sources officielles (
benchmarks officiels , mise à jour le 2026-10-09) · Le prix réel est soumis au devis du vendeur
Cas d'usage
- Chargement de modèles très larges sur une seule carte : les 256 Go HBM3E permettent d'héberger les poids d'un LLM à dizaines de milliards de paramètres sur une seule carte, tout en réservant un espace KV cache suffisant pour les contextes très longs, réduisant ainsi les coûts de communication du parallélisme tensoriel multi-GPU
- Services d'inférence en ligne pour grands modèles : la puissance FP8 de 2,61 PFLOPs offre un débit d'inférence élevé, et les 6 To/s de bande passante mémoire atténuent le goulot d'étranglement de décodage sous forte charge concurrente — idéal pour des services d'inférence de production
- Entraînement multi-GPU et extension en cluster : les 8 liaisons Infinity Fabric prennent en charge une interconnexion haut débit multi-cartes, permettant de constituer un système 8 cartes sur un substrat OAM pour l'entraînement et le fine-tuning de grands modèles
- Calcul haute performance : avec 81,7 TFLOPs en FP64 double précision, la carte s'adapte aux charges HPC classiques comme la mécanique des fluides numérique ou la simulation météorologique
Modèles de la même famille
Présentation vidéo VIDEO
Points d'achat et de vérification
- Vérifier le format du serveur : la MI325X est un module OAM à refroidissement passif, qui dépend d'un substrat UBB et d'un flux d'air forcé en châssis ; elle ne s'insère pas dans un poste PCIe classique refroidi par air — confirmez la compatibilité de la solution serveur avant tout achat
- Évaluer les marges d'alimentation et de refroidissement : la consommation de pointe atteint 1000 W au niveau carte (contre 750 W pour la MI300X) ; en déploiement multi-cartes, vérifiez point par point l'alimentation du rack, les jeux de barres et la capacité de refroidissement
- Contrôler logiciels et interconnexion à la réception : vérifiez la version des pilotes ROCm et sa compatibilité avec ce modèle, l'absence d'anomalies dans les journaux ECC mémoire, et exigez du vendeur un rapport de test de connectivité Infinity Fabric et de stabilité en pleine charge
FAQ
Quelle taille de modèle peut exécuter une seule MI325X ?
Les 256 Go HBM3E permettent de charger intégralement les poids d'un LLM à dizaines de milliards de paramètres sur une seule carte, avec de la place pour le KV cache nécessaire à l'inférence en contexte long ; pour des modèles plus vastes, le parallélisme tensoriel multi-cartes est possible via les 8 liaisons Infinity Fabric.
Quelles sont les principales différences entre MI325X et MI300X ?
Les spécifications de calcul sont identiques (2,61 PFLOPs en FP8 pour les deux) ; la différence se concentre sur la mémoire : la MI325X embarque 256 Go HBM3E à 6 To/s, la MI300X 192 Go HBM3 à 5,3 To/s ; la consommation de pointe de la MI325X passe aussi de 750 W à 1000 W. En résumé : même niveau de calcul, mémoire nettement supérieure.
À quoi faire attention lors de l'achat d'une MI325X en stock ?
Ce modèle circule principalement sous forme de solutions serveur/substrat ; lors de l'achat, vérifiez la compatibilité entre module OAM et substrat UBB, assurez-vous que l'alimentation couvre les 1000 W de pointe, contrôlez la version de la pile logicielle ROCm et les journaux ECC mémoire, et demandez les registres de tests d'interconnexion multi-cartes et de Test de burn-in en pleine charge.