Ficha técnica SPEC CARD
AMD Instinct MI325X
256GB HBM3E+6TB/s, el mismo chip del MI300X en versión ampliada; una sola tarjeta aloja con holgura modelos de 70 mil millones de parámetros, y sus 1000W de consumo requieren alimentación dedicada en sala; la nueva referencia de inferencia con gran memoria

Imagen oficial del fabricante AMD
Resumen
AMD Instinct MI325X es el acelerador de centro de datos de AMD basado en la arquitectura CDNA3 y constituye la actualización de mayor memoria de la familia MI300X: emplea el mismo proceso híbrido TSMC de 5nm+6nm y 19.456 stream processors, con la memoria elevada a 256GB HBM3E y, junto a su bus de 8192 bits, ofrece 6TB/s de ancho de banda (el MI300X de la generación anterior tenía 192GB HBM3 y 5,3TB/s), manteniendo una potencia FP8 pico de 2,61 PFLOPs dentro de su segmento. La tarjeta adopta formato de módulo OAM, con un consumo máximo de placa de 1000W, 8 enlaces Infinity Fabric (128GB/s por enlace) para configuraciones multitarjeta y conexión al host mediante PCIe 5.0 x16; su enfoque son los escenarios de inferencia y entrenamiento de grandes modelos que exigen una capacidad de memoria muy elevada.
Especificaciones clave
| Arquitectura | CDNA3 |
| Memoria | 256 GB |
| Tipo de memoria | HBM3E |
| Ancho de bus de memoria | 8192-bit |
| Ancho de banda de memoria | 6 TB/s |
| Rendimiento FP8 | 2.61 PFLOPs |
| Rendimiento FP16 | 1.3 PFLOPs |
| Rendimiento FP32 | 163.4 TFLOPs |
| Rendimiento FP64 | 81.7 TFLOPs |
| Rendimiento INT8 | 2.6 POPs |
| TBP (consumo) | 1000W Peak |
| Interconexión | PCIe® 5.0 x16 |
| Infinity Fabric Links | 8 |
| Ancho de banda Infinity Fabric | 128 GB/s |
| Stream processors | 19,456 |
| Formato | OAM Module |
| Caché de último nivel (LLC) | 256 MB |
| Proceso de fabricación | TSMC 5nm | 6nm FinFET |
Especificaciones verificadas con documentación oficial (
Benchmarks oficiales , actualizado el 2026-10-09) · El precio real está sujeto a la cotización del vendedor
Casos de uso
- Modelos de parámetros gigantescos en una sola tarjeta: los 256GB HBM3E permiten cargar en una única tarjeta los pesos de modelos de lenguaje de cientos de miles de millones de parámetros, reservando espacio suficiente de caché KV para contextos muy largos y reduciendo la sobrecarga de comunicación del paralelismo de tensores multitarjeta
- Servicios de inferencia en línea de grandes modelos: los 2,61 PFLOPs en FP8 aportan alta capacidad de procesamiento en inferencia y, combinados con los 6TB/s de ancho de banda, alivian el cuello de botella de decodificación en lotes concurrentes masivos, ideales para servicios de inferencia de nivel producción
- Entrenamiento multitarjeta y expansión en clúster: los 8 enlaces Infinity Fabric permiten redes de alta velocidad entre tarjetas y, sobre una base OAM, formar sistemas de 8 tarjetas para entrenamiento y fine-tuning de grandes modelos
- Computación de alto rendimiento: ofrece 81,7 TFLOPs en FP64 de doble precisión, útil para cargas HPC tradicionales como dinámica de fluidos computacional o simulación meteorológica
Modelos de la misma familia
Vídeo explicativo VIDEO
Puntos clave de compra e inspección
- Confirmar el formato del sistema completo: el MI325X es un módulo OAM de refrigeración pasiva que depende de una base UBB y del flujo de aire forzado del chasis; no se puede insertar directamente en una ranura PCIe estándar refrigerado por aire, por lo que antes de comprar hay que verificar la compatibilidad del diseño del servidor
- Calcular márgenes de alimentación y refrigeración: el consumo máximo de placa alcanza los 1000W (frente a los 750W del MI300X anterior); al desplegar varias tarjetas por equipo hay que revisar punto por punto la alimentación del rack, los barrados y la capacidad térmica
- Verificar software e interconexión en la recepción: comprobar el alcance de soporte de la versión del driver ROCm para este modelo, revisar si los registros ECC de memoria presentan anomalías y exigir al vendedor informes de conectividad de los enlaces Infinity Fabric y de estabilidad en plena carga
Preguntas frecuentes
¿Qué tamaño de modelo puede ejecutar una sola tarjeta MI325X?
Los 256GB HBM3E permiten cargar íntegramente en una tarjeta los pesos de modelos de lenguaje de cientos de miles de millones de parámetros, reservando espacio de caché KV para inferencia con contextos largos; modelos mayores pueden repartirse en paralelismo de tensores multitarjeta mediante los 8 enlaces Infinity Fabric.
¿Cuál es la principal diferencia entre el MI325X y el MI300X?
La potencia de cómputo es idéntica (2,61 PFLOPs FP8 en ambos); las diferencias están en la memoria: el MI325X equipa 256GB HBM3E con 6TB/s de ancho de banda, mientras que el MI300X ofrece 192GB HBM3 y 5,3TB/s; además, el consumo máximo del MI325X sube de 750W a 1000W. En resumen: mismo cómputo, más memoria.
¿Qué tener en cuenta al comprar un MI325X en stock?
Este modelo circula principalmente como sistema completo o sobre base; al comprar hay que confirmar la compatibilidad entre el módulo OAM y la base UBB, que la alimentación soporte el pico de 1000W, verificar la versión del stack ROCm y los registros ECC de memoria, y solicitar registros de interconexión multitarjeta y pruebas de burn-in en plena carga.