Карточка характеристик SPEC CARD
NVIDIA T4
Одна из самых массово развернутых инференс-карт в истории: однослотовая низкопрофильная пассивная карта с питанием 70 В через слот, встает в любой сервер, двухцелевое применение — INT8 130 TOPS мультиточностный инференс + декодирование до 38 видеопотоков; T4-инстансы у всех крупных облачных провайдеров (например, 8-карточные AWS G4dn) развернуты в огромных масштабах, это самая доступная на вторичном рынке инференс-карта
Обзор
NVIDIA T4 — это ускоритель PCIe на архитектуре Turing с GPU TU104, оснащенный 320 Tensor Core и 40 RT Core. Видеопамять — 16 GB GDDR6 с шиной 256 bits, подключение к хосту через интерфейс x16 PCIe Gen3. Производительность по точностям: 8.1 TFLOPS FP32, 65 TFLOPS в смешанной точности, 130 TOPS INT8, 260 TOPS INT4. T4 выполнена в однослотовом низкопрофильном (half-height, half-length) пассивном дизайне, лимит потребления платы — 70 В, без дополнительного питания, что позволяет использовать её в высокоплотных серверах. Карта поддерживает как инференс глубокого обучения, так и ускорение декодирования видео и широко развернута в облачных инференс-инстансах и периферийных серверах как универсальная инференс-карта.
Ключевые характеристики
| Архитектура | Turing (TU104-895) |
| Память | 16 ГБ GDDR6 с ECC (включена по умолчанию) |
| Пропускная способность памяти | 320GB/s (в ранней версии даташита — 300GB/s) |
| Разрядность шины памяти | 256bit |
| Вычислительная мощность | FP32 8.1 TFLOPS / смешанная точность FP16·FP32 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS |
| CUDA-ядра | 2,560 (40 SM) / Tensor Core 320 / RT Core 40 |
| Потребление | 70 Вт (общая потребляемая мощность платы, по умолчанию) |
| Интерконнект | PCIe Gen3 x16 (поддерживается работа в режиме x8, Interconnect BW 32GB/s) |
| Год выпуска | 2018 (Product Brief v01 — первая версия 2018-10-24, даташит редакции Dec18 © 2018 NVIDIA) |
| Форм-фактор | Однослотовая низкопрофильная карта Low-Profile длиной 6.6 дюйма (169.53 мм), пассивное охлаждение, вес платы 301 г |
| Частоты | Base 585MHz / Boost 1590MHz (Base указан с учетом ограничения энергопотребления 70 В) |
| Медиадвижок | Декодирование 1080p30: H.264 — 32 потока / HEVC — 44 потока / VP9 — 32 потока |
| SR-IOV | Поддерживается; 16 VF |
| Техпроцесс | 12nm FFN, 13,6 млрд транзисторов, 545мм² |
| Compute APIs | CUDA, NVIDIA TensorRT, ONNX |
Характеристики сверены с официальными материалами (
Официальные бенчмарки , обновлено 2026-10-10) · Фактическая цена определяется предложением продавца
Сценарии применения
- Инференс и развертывание моделей глубокого обучения: благодаря Tensor Core и возможностям квантизации INT8/INT4, в связке с TensorRT, ONNX и другими инструментами, подходит для масштабного развертывания онлайн-инференс-сервисов
- Транскодирование видео и обработка стримов: одна карта параллельно декодирует десятки потоков 1080p30 в H.264, HEVC или VP9 — подходит для видеошлюзов, транскодирующих кластеров и аналитики систем видеонаблюдения
- Высокоплотная виртуализация и облачные рабочие столы: поддержка SR-IOV (до 16 VF) и ECC-памяти, подходит для разделения GPU между множеством арендаторов и VDI
- Легкий рендеринг и графическое ускорение: встроенные RT Core обеспечивают аппаратную трассировку лучей, что применимо для рендеринга малых и средних масштабов, визуализации и смешанных нагрузок
Модели семейства
| Модель | Память | Потребление |
|---|
| NVIDIA A100 Сравнение | Две версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECC | SXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт |
| NVIDIA H20 Сравнение | 96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent) | TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена) |
| NVIDIA GB300 Сравнение | 288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку) | TGP до 1400 Вт |
| NVIDIA A30 Сравнение | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Сравнение | 24GB GDDR6X | 450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт) |
| NVIDIA RTX PRO 6000 Blackwell Сравнение | 96GB GDDR7 with ECC (максимум видеопамяти среди профессиональных рабочих станций GPU) | 600W Total board power (официально), питание 1x PCIe CEM5 16-pin, сквозной обдув (Double-flow-through) |
Видеообзор VIDEO
Покупка и проверка: на что обратить внимание
- T4 использует пассивное охлаждение и зависит от принудительного воздушного потока в корпусе: перед покупкой убедитесь, что целевой сервер имеет подходящую схему обдува GPU, а корпус поддерживает однослотовые низкопрофильные (low-profile) карты; также учтите, что карта получает питание через слот PCIe и не имеет внешнего разъема питания — провода не нужны, но стоит убедиться, что слот обеспечивает достаточную мощность для максимального потребления карты
- Проверка интерфейсов и совместимости: T4 использует PCIe Gen3 x16 (официально поддерживается установка в x8), хорошо совместима как со старыми, так и с новыми серверами; при покупке уточните топологию PCIe, высоту корпуса (half-height, half-length, длина платы около 6.6 дюйма) и требования к драйверам и виртуализации (SR-IOV, конфигурация ECC)
- При покупке б/у или со склада рекомендуется проверять каждую карту: убедитесь, что ECC-память включается и проходит стресс-тесты, проверьте целостность Tensor Core и функции декодирования видео (можно проверить многопоточное декодирование H.264/HEVC/VP9 соответствующими бенчмарками), запросите заводской SN для проверки гарантии и происхождения; этой модели на рынке очень много — обращайте внимание на партии и состояние демонтажных карт
Частые вопросы
Нуждается ли T4 в дополнительном питании? Встанет ли в обычный сервер?
Максимальное потребление T4 — 70 В, всё питание берется через слот PCIe, дополнительный кабель питания не нужен. Карта выполнена в однослотовом низкопрофильном пассивном дизайне и устанавливается в подавляющее большинство стандартных серверов (включая 1U/2U стоечные), но пассивное охлаждение требует правильного воздушного потока в корпусе — в обычных десктопных корпусах с недостаточным обдувом использовать её следует с осторожностью.
Подходит ли T4 для инференса больших моделей? Хватит ли 16 GB памяти?
T4 ориентирована на инференс, а не обучение; 16 GB GDDR6 вмещают квантизованные малые и средние модели (например, языковые или визуальные модели с квантизацией INT8/INT4), а с TensorRT развертывание достаточно эффективно. Для более крупных моделей потребуются квантизация, поэтапная загрузка или распределение по нескольким картам; если нужна более высокая пропускная способность, стоит рассмотреть более новые инференс-карты.
Стоит ли покупать б/у T4? На что обратить внимание при проверке?
T4 массово используется в инференс-инстансах крупных облачных провайдеров, предложение на рынке и вторичке велико, порог входа по цене низкий — это популярный выбор для начального инференса и транскодирования видео. При проверке убедитесь, что включается ECC и память проходит полный стресс-тест, что температура под полной нагрузкой и троттлинг в норме, что декодирование и Tensor Core исправны, а также сверьте SN и статус гарантии.