Карточка характеристик SPEC CARD
NVIDIA GeForce RTX 3090
Король оборота на вторичном рынке среди потребительских карт с 24 ГБ памяти: одиночная карта с огромной распространённостью на рынке AI-инференса и аренды GPU. 24 ГБ памяти + FP32 35,6 TFLOPS покрывают инференс малых и средних моделей и квантизацию больших моделей; вторичный рынок насыщен, цены прозрачны. Единственная карта первого запуска 30-й серии (наряду с поздней 3090 Ti), сохранившая NVLink 3.0 с двунаправленной пропускной способностью 112,5 ГБ/с: два карты с мостом дают пул на 48 ГБ памяти для небольшого обучения или инференса с большими объёмами памяти — заметное преимущество в аренде. TDP 350 Вт щадящ к электроснабжению серверных. MSRP $1,499
Обзор
NVIDIA GeForce RTX 3090 — флагманская потребительская видеокарта на архитектуре Ampere (чип GA102) с 24 ГБ памяти GDDR6X и шиной 384 бит. Вычислительная мощность FP32 достигает 35,6 TFLOPS, установлены Tensor Core третьего поколения и RT Core второго. Благодаря 24 ГБ памяти и высокой распространённости на вторичном рынке она широко применяется в AI-инференсе и аренде GPU; кроме того, это одна из немногих карт 30-й серии с сохранённым NVLink 3.0 (112,5 ГБ/с в обе стороны), позволяющим объединять память через мост, что покрывает сценарии инференса малых и средних моделей и квантизации больших моделей.
Ключевые характеристики
| Архитектура | Ampere (GA102-300, 82 SM) |
| Память | 24GB GDDR6X |
| Пропускная способность памяти | 936GB/s (19.5Gbps x 384bit) |
| Разрядность шины памяти | 384bit |
| Вычислительная мощность | FP32 35,6 TFLOPS / Tensor 142 TFLOPS [284 разреженные] |
| CUDA-ядра | 10496 (82 SM) / Tensor Core 328 (3-е поколение) / RT Core 82 (2-е поколение) |
| Потребление | TGP 350 Вт (рекомендуемый БП системы 750 Вт) |
| Интерконнект | PCIe Gen4 x16 + NVLink 3.0 двунаправленно 112,5 ГБ/с (единственная потребительская карта стартовой линейки 30-й серии с NVLink, вместе с поздней 3090 Ti; с 40-й серии удалён) |
| Год выпуска | 2020 (анонс 2020-09-01, продажи с 2020-09-24, MSRP $1,499) |
| Частоты | Base 1.40GHz / Boost 1.70GHz |
| Техпроцесс | Samsung 8N, 28,3 млрд транзисторов, 628,4 мм² (полнопроизводительный GA102: 84 SM / 10752 CUDA, в 3090 активировано 82) |
| Медиадвижок | NVENC 7-го поколения / NVDEC 5-го поколения |
| Видеовыходы | HDMI 2.1 + DP 1.4a x3, 4 экрана, HDCP 2.3, 7680x4320 |
| Форм-фактор | FE трёхслотовая 313x138 мм, питание 2x8pin (в комплекте переходник на 1x12-pin), требуется БП 750 Вт |
| Уровень вычислительной возможности CUDA | Compute Capability 8.6 |
Характеристики сверены с официальными материалами (
Официальные бенчмарки , обновлено 2026-10-10) · Фактическая цена определяется предложением продавца
Сценарии применения
- Локальное развёртывание инференса малых и средних моделей: 24 ГБ памяти вмещают полный набор весов и KV-кэш
- Инференс больших моделей с квантизацией (низкоточные форматы INT8/INT4 и др.) — рабочее решение офлайн- и онлайн-инференса при ограниченной памяти
- Схема объединения памяти через мост NVLink 3.0 для небольшого обучения или задач инференса, выходящих за пределы памяти одной карты
- Экспериментальные среды глубокого обучения для частных разработчиков и университетских лабораторий: CUDA Capability 8.6 совместима с основными фреймворками и операторами
Модели семейства
| Модель | Память | Потребление |
|---|
| NVIDIA T4 Сравнение | 16 ГБ GDDR6 с ECC (включена по умолчанию) | 70 Вт (общая потребляемая мощность платы, по умолчанию) |
| NVIDIA A100 Сравнение | Две версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECC | SXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт |
| NVIDIA H20 Сравнение | 96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent) | TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена) |
| NVIDIA GB300 Сравнение | 288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку) | TGP до 1400 Вт |
| NVIDIA A30 Сравнение | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Сравнение | 24GB GDDR6X | 450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт) |
Видеообзор VIDEO
Покупка и проверка: на что обратить внимание
- Карта занимает 3 слота (размеры Founders Edition 313 x 138 мм) — перед покупкой проверьте расстояния между слотами корпуса и платы; при установке нескольких карт особенно критичны межслотовые зазоры и воздушные потоки. Питание требует двух разъёмов PCIe 8-pin (в комплекте переходник на 1x 12-pin); при прокладке кабелей в серверной закладывайте запас по полной нагрузке карты, БП системы — не ниже рекомендованного производителем уровня
- Отдавайте предпочтение версиям с поддержкой NVLink и убедитесь, что мост NVLink идёт в комплекте или докупается; если планируется объединение памяти, проверьте совместимость моста с платой и креплениями. Учтите, что чип GA102 выпускался в двух ревизиях — GA102-300 и GA102-250; при приёмке сверьте программно число CUDA-ядер (10 496) и количество SM (82)
- Ключевые пункты приёмки б/у: проверьте, не работали ли чипы памяти и подсистема питания под высокой нагрузкой; под нагрузочным тестом следите за температурой (предел 93°C) и сбросом частот; убедитесь, что видеовыходы — HDMI 2.1 + 3x DP 1.4a — в исправном состоянии; проверьте корректное согласование линк PCIe Gen 4 x16, чтобы избежать перепаянных майнинговых карт или дефектов памяти
Частые вопросы
Хватит ли 24 ГБ памяти RTX 3090 для инференса больших моделей?
Для моделей в точности FP16 24 ГБ покрывают полный инференс малых и средних по числу параметров моделей; для более крупных обычно требуется сжатие весов через квантизацию (INT8, INT4 и т.п.) перед развёртыванием. Кроме того, карта сохраняет NVLink 3.0 (112,5 ГБ/с в обе стороны): мост из двух карт объединяет пул памяти и расширяет масштаб запускаемых моделей.
Можно ли собрать из двух RTX 3090 связку NVLink для обучения?
Да. RTX 3090 — одна из карт 30-й серии с поддержкой NVLink: NVLink 3.0 обеспечивает пропускную способность интерконнекта 112,5 ГБ/с в обе стороны, после установки моста память двух карт объединяется, что подходит для небольших задач обучения или инференса, превышающего память одной карты. Учтите: нужен отдельный мост NVLink, и требуется совместимость расстояний между картами.
На что обращать внимание при приёмке б/у RTX 3090?
Рекомендуем проверить: во-первых, утилитой вроде GPU-Z сверить спецификации (CUDA-ядра 10 496, SM 82, 24 ГБ GDDR6X, шина 384 бит); во-вторых, провести длительный стресс-тест памяти и ядра, отслеживая аномалии температуры (предел 93°C), сбросы частот или артефакты; в-третьих, убедиться в исправности разъёмов питания (2x PCIe 8-pin) и видеовыходов, а также в нормальном согласовании линка PCIe Gen 4 x16.