AIXX Pedia › Статьи о ПО › CUDA

CUDA представляет собой Платформа параллельных вычислений и модель программирования :ноябрь 2006 года, выпуск вместе с GeForce 8800 (G80, унифицированная шейдерная архитектура) — GPU превратился из «графического процессора» в «универсальный параллельный вычислительный процессор», разработчики пишут программы для GPU на C-подобном языке (по данным официальной страницы NVIDIA CUDA[1]). Сегодня это фактический стандарт мира AI-вычислений: под PyTorch, TensorFlow, vLLM практически все GPU-бэкенды ведущих AI-фреймворков стоят на CUDA.
CUDA — это не просто «драйвер», а трёхслойный программный стек : нижний уровень — драйверы и набор инструкций (определяется версией «вычислительной возможности» карты), средний — CUDA Toolkit (компилятор nvcc, среда выполнения) и семейство библиотек CUDA-X (cuBLAS/cuDNN/NCCL и др.[2][3]), верхний — фреймворки и собственные приложения. «Вычислительная возможность» (Compute Capability, например H100=9.0, Blackwell=10.0), о которой говорят при выборе карты, — это «аппаратное поколение» в мире CUDA — первый параметр для сверки при проверке б/у карт и совместимости с фреймворками (по официальной таблице[4])。
Для закупщика CUDA означает две практические вещи: привязку к экосистеме (перевод производственных линий с CUDA на ROCm/oneAPI имеет реальную стоимость, подробнее в разделе «Ограничения и споры») и совместимость версий (требуемая фреймворком версия CUDA против драйвера и вычислительной возможности карты — обязательный пункт проверки б/у карт). Эта статья — о программной концепции и взаимно дополняет статьи о конкретных моделях.
AIXX Index (0–100):взвешенная оценка по степени соответствия экосистеме (специализированная методика для статей о программных концепциях).
В ноябре 2006 года , CUDA вышла вместе с GeForce 8800 (G80): унифицированная шейдерная архитектура позволила универсальным параллельным программам управлять потоковыми процессорами GPU — с тех пор закрепилось название «Compute Unified Device Architecture» (по официальной странице NVIDIA CUDA и открытой истории технологий[1]) — GPGPU превратился из академического приёма в инженерную платформу.
2012–2016 годы , взрыв глубокого обучения: AlexNet выиграла соревнование, обучившись на двух GTX 580 (по открытой истории технологий), CUDA-GPU стал стандартом вычислений для deep learning — созрели специализированные библиотеки вроде cuDNN, сложилось семейство CUDA-X (по официальной странице cuDNN[2])。
2017–2022 годы , эпоха дата-центров: Volta (compute capability 7.0) принесла Tensor Core, CUDA перешла с потребительских карт на главный фронт дата-центров; библиотека коллективных коммуникаций NCCL стала стандартом многомасштабного обучения (по официальной странице NCCL[3]). В эпоху A100 (8.0) и H100 (9.0) связь версий CUDA с экосистемой фреймворков только укреплялась.
2023–2026 годы , эпоха Blackwell: compute capability достигла поколения 10.0 (по официальной таблице[4]), новые форматы точности FP4/FP8 нативно поддержаны стеком CUDA; одновременно ROCm (AMD) и oneAPI (Intel) как альтернативные пути продолжают догонять — противостояние доминирования экосистемы CUDA и альтернативных сил — фон выбора вычислительных решений 2026 года (подробнее в «Ограничениях и спорах»).
Вычислительная возможность (Compute Capability, часто сокращается CC/sm_XX) — это «аппаратное поколение» в мире CUDA: она определяет, какие наборы инструкций способна исполнять карта и как под неё адаптируются фреймворки и драйверы. Таблица CC для моделей в продаже в этой базе (за основу взята официальная таблица NVIDIA[4]):
| Модель | Архитектура | Вычислительная возможность | Статья в базе |
|---|---|---|---|
| Серия B300 / GB300 (Blackwell Ultra) | Blackwell Ultra | Поколение 10.x (по официальной таблице) | B300 |
| Серия B200 / GB200 (Blackwell) | Blackwell | 10.0 | Статья GB200 NVL72 |
| H100 / H200 / H20(Hopper) | Hopper | 9.0 | H200 |
| L40S / L40 / L20(Ada) | Ada Lovelace | 8.9 | L40S |
| A100 / A800(Ampere) | Ampere | 8.0 | A100 |
| RTX 6000 Ada / рабочие карты серии A | Ada / Ampere | 8.9 / 8.6 | Карточка характеристик RTX 6000 Ada |
Полная таблица (все потребительские и профессиональные карты) — только по официальной странице NVIDIA CUDA GPUs[4];«по официальной таблице» = здесь перечислены только модели в продаже этой базы, точный минорный номер для Blackwell Ultra уточняется по официальной таблице, без догадок.
Быстрая проверка при приёмке : получив б/у карту, сначала запустите nvidia-smi -q — смотрите драйвер и CUDA Version (верхняя поддерживаемая версия CUDA), затем сверьте вычислительную возможность карты: если требования фреймворка (например, версия CUDA при сборке PyTorch) совпадают с CC карты, — только тогда «карта может пойти на производственную линию».
| Библиотека | Что делает | Кто использует |
|---|---|---|
| cuBLAS | Линейная алгебра (матричные умножения и т.д.) — арифметический фундамент deep learning | Все фреймворки обучения/инференса |
| cuDNN | Ускорение примитивов deep learning (свёртки, внимание и т.д., по официальной странице[2]) | Фундамент операторов обучающих и инференс-фреймворков |
| NCCL | Коллективные коммуникации между картами и узлами (AllReduce и т.д., по официальной странице[3]) | Коммуникационный фундамент распределённого обучения |
| CUDA-X Data Science / AI и др. | Семейство вертикальных библиотек: обработка данных, рекомендации, квантизация и т.д. (по официальным данным CUDA-X) | Пайплайны данных и вертикальные сценарии |
| nvcc / инструменты Nsight | Компилятор и профилирование производительности (компоненты Toolkit, по официальной документации[6]) | Разработка и тюнинг собственных операторов |
CUDA-X — общее название NVIDIA для семейства GPU-ускоряющих библиотек (по официальным данным); версии библиотек связаны с версиями CUDA Toolkit матрицей совместимости — перед обновлением проверяйте таблицу (по официальной документации[6])。
| Сценарий | Правило | Смысл для приёмки |
|---|---|---|
| Драйвер vs CUDA | Версия драйвера определяет верхнюю поддерживаемую версию CUDA (обратная совместимость) | У б/у карты смотреть nvidia-smi правый верхний угол nvidia-smi: CUDA Version — это потолок возможностей драйвера, а не версия установленного Toolkit |
| Toolkit vs вычислительная возможность | Новый Toolkit поддерживает новые CC; бинарники, собранные старым Toolkit, на новых картах могут потребовать пересборки | Версия CUDA образа фреймворка должна совпадать с CC карты — старые фреймворки на новых картах (например, образ CUDA 11.x на Blackwell) требуют подтверждения пути совместимости |
| Прямая совместимость (forward compatibility) | Специальный механизм драйверов для дата-центров позволяет новым картам исполнять старые CUDA-бинарники (по официальной документации[6]) | Привилегия дата-центровых карт (Tesla/дата-центровые серии) — конкретное применение строго по официальной документации, не по памяти |
Матрица совместимости меняется с версиями, истина — в официальной документации NVIDIA[6];эта таблица задаёт направление решений, а не инструкцию по эксплуатации.
CUDA — программная платформа, аппаратной фотогалереи нет; схема программного стека — в разделе «Технические характеристики». Официальные логотипы и материалы — по официальным публикациям NVIDIA.
| Параметр | Текущее состояние |
|---|---|
| Получение | CUDA Toolkit распространяется через официальную страницу загрузки NVIDIA (по официальным данным[5]), драйвер и Toolkit устанавливаются раздельно |
| Поддержка фреймворков | PyTorch / TensorFlow / JAX / vLLM / TensorRT и др. используют CUDA как основной GPU-бэкенд |
| Контейнеризация | NVIDIA Container Toolkit — образы фреймворков несут CUDA-рантайм с собой, хосту нужен только драйвер |
| Конкуренты | AMD ROCm (экосистема HIP), Intel oneAPI (линейка SYCL) — поддержка фреймворков и покрытие операторов продолжают догонять (подробнее в «Ограничениях и спорах») |
| Кодовые активы | Двадцатилетний массив CUDA-кода (реплики статей, open source репозитории, собственные операторы) — ядро стоимости миграции |
Экосистемная информация собрана из открытых источников; версии и матрицы поддержки меняются со временем, истина — в официальных публикациях NVIDIA.
Три CUDA-связанные проверки при покупке карты (дополняют аппаратную приёмку из статей о моделях):
nvidia-smi -q: версия драйвера и потолок CUDA, модель карты и объём памяти сверяются с описанием продавца — облачные кастомные карты (статус vGPU-авторизации) вскрываются именно на этом шаге.Шесть аппаратных стресс-тестов — в статьях о моделях (например, A100/B300); этот раздел охватывает только программный взгляд.
Четырёхшаговая быстрая проверка б/у карты глазами CUDA (в паре с аппаратными стресс-тестами):
nvidia-smi -q: модель карты, версия драйвера, потолок CUDA Version, VBIOS — построчная сверка с описанием продавца.torch.cuda.get_device_capability(): сверить CC с официальной таблицей[4]— Подделка раскрывается на проверке Compute Capability.Поколение железа в мире CUDA (например 8.0/9.0/10.0): определяет набор инструкций и возможности карты — фреймворки и компиляторы генерируют/выбирают код под CC. Сверка CC с официальной таблицей при приёмке — надёжный способ выявить подделку (официальная таблица соответствия[4])。
Компилятор CUDA C++ (компонент CUDA Toolkit): компилирует ядра в GPU-бинарники под конкретную CC — «целевая CC компиляции» определяет, на каких картах запустится бинарник.
Матричные вычислительные блоки, появившиеся с Volta: аппаратная основа обучения в смешанной точности — новые форматы точности каждого поколения Tensor Core (FP16→BF16→FP8→FP4) впервые поддерживаются стеком CUDA, что является типичным случаем «версии CUDA догоняют железо».
Две альтернативные ветки: AMD ROCm (синтаксис HIP близок к CUDA, зрелость инструментов миграции постоянно растёт), Intel oneAPI (кросс-вендорский путь на базе SYCL) — покрытие операторов и кадры для тюнинга остаются отставанием от CUDA (консенсус публичных обзоров).
Правила совместимости CUDA: новый драйвер поддерживает старую CUDA (обратная совместимость, норма); карты для дата-центров через специальный механизм позволяют запускать старые CUDA-бинарники на новых картах (прямая совместимость, по официальной документации[6]) — перед межверсионным развёртыванием сверяйтесь с официальной документацией, не полагайтесь на память.
Нет: драйвер — низкоуровневое ПО, благодаря которому система распознаёт карту; CUDA — платформа параллельных вычислений (компилятор Toolkit + рантайм + весь набор библиотек CUDA-X). «CUDA Version» в правом верхнем углу nvidia-smi — это верхний предел CUDA, поддерживаемый драйвером, а не версия установленного Toolkit — их часто путают.
Compute Capability (CC) определяет, какие наборы инструкций и возможности фреймворков поддерживает карта: слишком старая CC не потянет новый фреймворк, а несоответствие CC типу карты — признак подделки — сверка CC с официальной таблицей (A100=8.0/H100=9.0/Blackwell=10.0) — надёжный приём при проверке б/у карт.
Три шага: обновить драйвер (повысить потолок CUDA), взять образ фреймворка, соответствующий CC карты (контейнер со своим рантаймом), для датацентровых карт — проверить официальный механизм прямой совместимости. Конкретную комбинацию уточняйте в официальной документации NVIDIA, не собирайте версии по памяти.
Зависит от сценария: типовые модели популярных фреймворков (PyTorch и др.) ROCm уже запускает, инструменты миграции на близком к CUDA синтаксисе HIP зреют; но по покрытию операторов, кадрам для тюнинга и двадцатилетнему кодовому наследию разрыв с CUDA сохраняется — новые линии можно оценивать, перенос действующих CUDA-линий считайте в человеко-месяцах.
CUDA SDK лицензируется по условиям дистрибуции NVIDIA, которые содержат ограничения на трансляцию/исполнение на железе не от NVIDIA (по данным открытых обсуждений) — обычный «CUDA на картах NVIDIA» это не затрагивает; вопросы соответствия при кроссплатформенной трансляции решайте с юристами, формулировки этой базы не являются юридической консультацией.