AIXX Pedia › Техническая концепция › Tensor Core
Tensor Core — специализированный вычислительный блок для матричных операций, представленный NVIDIA в архитектуре Volta (2017). Каждый Tensor Core выполняет умножение матриц 4×4 за один тактовый цикл. Он решает одну и ту же задачу: ключевой операцией глубокого обучения является матричное умножение (GEMM), которое универсальные CUDA-ядра выполняют неэффективно — Tensor Core спроектирован именно для этого.
Поддерживаемая точность меняется от поколения к поколению: первое (Volta) — FP16; второе (Turing) — INT8/INT4; третье (Ampere) — BF16/TF32; четвёртое (Hopper) — FP8; пятое (Blackwell) — FP4. Каждое новое поколение точности позволяет «втиснуть больше вычислительной мощности в ту же площадь кристалла» — именно поэтому наблюдается взрывной рост производительности FP4 у B300.
| Параметр | Значение / формат |
|---|---|
| Пятое поколение (Blackwell) | FP4/FP6/FP8/FP16/BF16/TF32/FP64 |
| Производительность FP4 (B300) | около 15 PFLOPS dense / выше в sparse-режиме |
| Производительность FP8 (H100) | 3,341 TFLOPS (sparse) |
| Поколения | Пятое поколение (Blackwell) |
Tensor Core пятого поколения в B300 нативно поддерживают точности FP4 и FP6 — квантизация больших моделей до FP4 происходит почти без потери точности, а значит на той же площади кристалла помещается вдвое больше вычислительной мощности, чем при FP8. Покупателям стоит учитывать: заявленная NVIDIA производительность FP4 указана в sparse-режиме, в dense-режиме она вдвое ниже — фактическая пропускная способность при инференсе зависит от уровня поддержки квантизации во фреймворках (TensorRT-LLM / vLLM и др.).