Карточка характеристик SPEC CARD
NVIDIA L40S
Универсальный рабочее-лошадиный ускоритель на архитектуре Ada с 48 ГБ: инференс/рендеринг/Omniverse на одной карте, FP8 со sparsity 1 466 TF плюс кодирование/декодирование AV1 — одна из самых доступных Ada-карт с большим объёмом памяти на внутреннем рынке

Официальное изображение NVIDIA
Реальные фото
Фотография образца
Обзор
NVIDIA L40S — двухслотовая дата-центровая GPU на архитектуре Ada Lovelace с интерфейсом PCIe, оснащённая 48 ГБ памяти GDDR6 (с ECC) и пропускной способностью памяти 864 ГБ/с, обеспечивающая двунаправленный обмен 64 ГБ/с через PCIe Gen4 x16. Карта располагает 18 176 CUDA-ядрами, 142 RT Core третьего поколения и 568 Tensor Core четвёртого поколения; производительность FP8 Tensor Core достигает 1 466 TFLOPS (со sparsity). Интегрировано три блока NVENC/NVDEC с поддержкой кодирования и декодирования AV1. Благодаря сочетанию большого объёма памяти, высокой производительности и возможностей обработки видео L40S часто применяется для инференса больших моделей, генерации изображений, трассировки лучей в рендеринге, а также цифровых двойников в Omniverse — это одна из наиболее широко представленных на внутреннем рынке Ada-карт с большим объёмом памяти.
Ключевые характеристики
| Архитектура | NVIDIA Ada Lovelace architecture |
| Память | 48 GB GDDR6 with ECC |
| Пропускная способность памяти | 864 GB/s |
| Производительность FP32 | 91.6 teraFLOPS |
| Производительность FP16 | 733 teraFLOPS* |
| Производительность FP8 | 1,466 teraFLOPS* |
| TDP, энергопотребление | 350 W |
| Интерконнект | PCIe Gen4 x16 |
| Форм-фактор | 4.4" (H) x 10.5" (L), dual slot |
| Кодеки | 3x (includes AV1 encode and decode) |
Характеристики сверены с официальными материалами (
Официальные бенчмарки , обновлено 2026-10-09) · Фактическая цена определяется предложением продавца
Сценарии применения
- Инференс больших языковых и мультимодальных моделей на одной карте или в небольшом кластере: 48 ГБ памяти позволяют размещать модели с большим числом параметров и длинным контекстом
- Высокопроизводительный инференс-сервис на базе квантизации FP8/INT8 с использованием производительности Tensor Core 1 466 TFLOPS (со sparsity) для повышения пропускной способности
- Офлайн- и реалтайм-рендеринг с трассировкой лучей, визуализация и создание контента с опорой на 142 RT Core третьего поколения
- Приложения Omniverse и цифровые двойники, а также пакетное перекодирование видео и обработка потокового вещания с использованием трёх блоков NVENC/NVDEC (включая AV1)
Модели семейства
| Модель | Память | Потребление |
|---|
| NVIDIA T4 Сравнение | 16 ГБ GDDR6 с ECC (включена по умолчанию) | 70 Вт (общая потребляемая мощность платы, по умолчанию) |
| NVIDIA A100 Сравнение | Две версии: 40 ГБ HBM2 / 80 ГБ HBM2e (80 ГБ — дополнительный анонс на SC20 2020-11-16), с ECC | SXM4 400 Вт (одинаково для 40 ГБ/80 ГБ); PCIe-версия: 40 ГБ — 250 Вт / 80 ГБ — 300 Вт |
| NVIDIA H20 Сравнение | 96 ГБ HBM3 (три источника сходятся: Flopper/VipraTech/Новости Tencent) | TDP 400 Вт (три источника: Flopper/таблица спецификаций VipraTech/'тепловой дизайн-пакет 400 Вт' в новостях Tencent; противоречивая цифра 350 Вт из основного текста VipraTech отброшена) |
| NVIDIA GB300 Сравнение | 288 ГБ HBM3e (на один GPU-пакет; 576 ГБ в суперчипе; параллельно существуют значения 2,1 ТБ для платы HGX и 20 ТБ на стойку) | TGP до 1400 Вт |
| NVIDIA A30 Сравнение | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Сравнение | 24GB GDDR6X | 450 Вт TGP (в среднем в играх 315 Вт, рекомендуемый блок питания 850 Вт) |
Видеообзор VIDEO
Покупка и проверка: на что обратить внимание
- Обратите внимание на питание сервера и ЦОД: максимальное энергопотребление L40S — 350 Вт на карту, разъём питания 16-pin; серверу потребуются соответствующий резерв по БП и кабелям, а плотность мощности стойки нужно планировать с учётом этого
- Проверьте охлаждение и форм-фактор корпуса: карта с пассивным охлаждением в двухслотовом полновысотном исполнении, размеры около 4,4 дюйма в высоту и 10,5 дюйма в длину; установка возможна только в сервер с достаточным воздушным потоком, обычные настольные корпуса не подходят
- Интерконнект и топология развёртывания: L40S поддерживает только PCIe Gen4 x16 (64 ГБ/с в каждую сторону), без NVLink и без разбиения MIG; обмен между картами идёт через PCIe и сеть хоста, поэтому при закупке стоит оценивать выбор исходя из требований бизнеса к межкарточной пропускной способности; также имеет смысл учесть значение сертификации Secure Boot и NEBS Level 3 для вашей среды эксплуатации
Частые вопросы
Сколько памяти у NVIDIA L40S? Хватит ли её для инференса больших моделей?
L40S оснащена 48 ГБ памяти GDDR6 с поддержкой ECC и пропускной способностью 864 ГБ/с. Для инференса 48 ГБ позволяют вместить модели с большим числом параметров или расширить доступный объём за счёт квантизации — этого достаточно для большинства задач инференса на одной карте.
Поддерживает ли L40S NVLink и MIG? А как быть с многопоточным обучением?
L40S не поддерживает NVLink и разбиение Multi-Instance GPU (MIG). Обмен между картами возможен только через PCIe Gen4 x16 (64 ГБ/с в каждую сторону), поэтому карта лучше подходит для инференса и рендеринга; если бизнес чувствителен к высокой межкарточной пропускной способности (например, крупномасштабное обучение на многих GPU), потребуется дополнительная проработка сетевой топологии.
Каковы возможности кодирования/декодирования видео у L40S? Поддерживается ли AV1?
Да. L40S оснащена тремя энкодерами NVENC и тремя декодерами NVDEC с аппаратной поддержкой кодирования и декодирования AV1, что делает её подходящей для перекодирования видео, обработки потокового вещания и задач генерации графического видео в связке с рендерингом/Omniverse.