AIXX Pedia › Concepto técnico › Tensor Core
El Tensor Core es una unidad de cálculo matricial especializada introducida por NVIDIA con la arquitectura Volta (2017): cada Tensor Core completa una multiplicación de matrices de 4×4 en un solo ciclo de reloj. Aborda un problema muy concreto: la operación central del aprendizaje profundo es la multiplicación de matrices (GEMM), y los núcleos CUDA de propósito general la ejecutan con baja eficiencia. Los Tensor Core se diseñaron precisamente para esto.
La precisión soportada por cada generación de Tensor Core ha evolucionado: primera generación (Volta) FP16; segunda (Turing) INT8/INT4; tercera (Ampere) BF16/TF32; cuarta (Hopper) FP8; quinta (Blackwell) FP4. Cada nueva precisión por generación permite «meter más potencia de cómputo en la misma superficie de silicio»: esa es la razón de fondo del crecimiento explosivo del rendimiento FP4 del B300.
| Concepto | Valor / criterio |
|---|---|
| Quinta generación (Blackwell) | FP4/FP6/FP8/FP16/BF16/TF32/FP64 |
| Potencia FP4 (B300) | ≈15 PFLOPS densos / más en disperso |
| Potencia FP8 (H100) | 3.341 TFLOPS (disperso) |
| Número de generaciones | Quinta generación (Blackwell) |
Los Tensor Core de quinta generación del B300 soportan de forma nativa las precisiones FP4 y FP6: la inferencia de grandes modelos puede cuantizarse a FP4 con una pérdida de precisión casi nula, lo que significa que la misma superficie de silicio alberga el doble de potencia de cómputo que en FP8. Al revisar especificaciones, el comprador debe tener en cuenta que las cifras FP4 anunciadas por NVIDIA se miden en modo disperso (sparse); el modo denso es la mitad. El rendimiento real de inferencia depende del grado de soporte de cuantización del framework (TensorRT-LLM / vLLM, etc.).