AIXX Pedia › Fiches logicielles › CUDA

CUDA est le Plateforme de calcul parallèle et modèle de programmation : lancée en novembre 2006 aux côtés de la GeForce 8800 (G80, architecture unifiée) — elle transforme le GPU d'un « processeur graphique » en « processeur de calcul parallèle généraliste », permettant aux développeurs d'écrire directement des programmes GPU dans un langage proche du C (selon la page officielle NVIDIA CUDA[1]). Aujourd'hui, c'est le standard de facto du monde de l'IA : sous PyTorch, TensorFlow et vLLM, le backend GPU de presque tous les frameworks d'IA majeurs repose sur CUDA.
CUDA n'est pas qu'un simple « pilote » — c'est une pile logicielle à trois niveaux : en bas, le pilote et le jeu d'instructions matériel (déterminé par la version de « capacité de calcul » de la carte) ; au milieu, le CUDA Toolkit (compilateur nvcc, runtime) et la famille de bibliothèques CUDA-X (cuBLAS/cuDNN/NCCL, etc.[2][3]) ; en haut, les frameworks et les applications internes. La « capacité de calcul » (Compute Capability, H100=9.0, Blackwell=10.0 par exemple) dont on parle au moment de choisir une carte est la génération matérielle de l'univers CUDA — c'est le premier paramètre de référence pour la vérification des cartes d'occasion et la compatibilité des frameworks (selon la table officielle[4])。
Pour un acheteur, CUDA signifie deux choses concrètes : le verrouillage écosystème (migrer une ligne de production CUDA vers ROCm/oneAPI a un coût réel, voir « Limites et controverses ») et la compatibilité de versions (version CUDA requise par le framework vs pilote et capacité de calcul de la carte — un contrôle obligatoire à l'achat d'occasion). Cette fiche est une fiche concept logiciel — elle se complète avec chaque fiche modèle.
AIXX Index (0–100) : estimation pondérée selon l'adéquation à l'écosystème (méthodologie spécifique aux fiches concepts logiciels).
En novembre 2006 , CUDA sort avec la GeForce 8800 (G80) : l'architecture unifiée permet de piloter les stream processors du GPU par des programmes parallèles généralistes — le nom « Compute Unified Device Architecture » est né (selon la page officielle NVIDIA CUDA et l'histoire technique publique[1]) — le GPGPU passe d'astuce académique à plateforme d'ingénierie.
2012-2016 , l'explosion du deep learning : AlexNet remporte la compétition en s'entraînant sur deux GTX 580 (selon l'histoire technique publique), et les GPU CUDA deviennent la norme de calcul du deep learning — cuDNN et les bibliothèques spécialisées mûrissent, la famille CUDA-X prend forme (page officielle cuDNN[2])。
2017-2022 , l'ère datacenter : Volta (capacité de calcul 7.0) introduit les Tensor Core, CUDA passe des cartes grand public au champ de bataille principal des datacenters ; la bibliothèque de communications collectives NCCL devient la pièce standard de l'entraînement multi-GPU (page officielle NCCL[3]). À l'époque des A100 (8.0) et H100 (9.0), le lien entre versions CUDA et écosystème des frameworks se resserre.
2023-2026 , l'ère Blackwell : la capacité de calcul entre dans la génération 10.0 (selon la table officielle[4]), les nouvelles précisions FP4/FP8 sont prises en charge nativement par la pile CUDA ; pendant ce temps, ROCm (AMD) et oneAPI (Intel) rattrapent en tant qu'alternatives — la tension entre domination de l'écosystème CUDA et forces de substitution est la toile de fond des choix de calcul en 2026 (voir « Limites et controverses »).
La capacité de calcul (Compute Capability, souvent abrégée CC/sm_XX) est la « génération matérielle » de l'univers CUDA — elle détermine quels jeux d'instructions la carte peut exécuter et comment frameworks et pilotes s'adaptent. Correspondance CC des modèles vendus dans cette base (selon la table officielle NVIDIA[4]):
| Modèle | Architecture | Capacité de calcul | Fiche dans cette base |
|---|---|---|---|
| Série B300 / GB300 (Blackwell Ultra) | Blackwell Ultra | Génération 10.x (selon la table officielle) | B300 |
| Série B200 / GB200 (Blackwell) | Blackwell | 10.0 | Fiche GB200 NVL72 |
| H100 / H200 / H20(Hopper) | Hopper | 9.0 | H200 |
| L40S / L40 / L20(Ada) | Ada Lovelace | 8.9 | L40S |
| A100 / A800(Ampere) | Ampere | 8.0 | A100 |
| RTX 6000 Ada / cartes workstation série A | Ada / Ampere | 8.9 / 8.6 | Fiche technique RTX 6000 Ada |
Pour la table complète (toutes cartes grand public/professionnelles), voir la page officielle NVIDIA CUDA GPUs[4] ; « selon la table officielle » = ce tableau ne liste que les modèles vendus dans cette base ; la sous-version exacte de Blackwell Ultra attendra la mise à jour officielle, sans spéculation.
Vérification rapide en contexte d'achat d'occasion : à la réception d'une carte d'occasion, lancer d'abord nvidia-smi -q pour lire le pilote et la CUDA Version (plafond CUDA du pilote), puis vérifier la capacité de calcul de la carte — quand l'exigence du framework (ex. version CUDA de la build PyTorch) correspond au CC de la carte, on peut dire que « cette carte peut entrer en production ».
| Bibliothèque | Rôle | Qui l'utilise |
|---|---|---|
| cuBLAS | Algèbre linéaire (produits matriciels, etc.) — la base arithmétique du deep learning | Tous les frameworks d'entraînement/inférence |
| cuDNN | Accélération des primitives deep learning (convolutions/attention, etc., selon la page officielle[2]) | Base d'opérateurs des frameworks d'entraînement et d'inférence |
| NCCL | Communications collectives multi-cartes/multi-machines (AllReduce, etc., selon la page officielle[3]) | Infrastructure de communication de l'entraînement distribué |
| CUDA-X Data Science / AI, etc. | Familles de bibliothèques verticales : traitement de données, recommandation, quantification, etc. (selon la documentation officielle CUDA-X) | Pipelines de données et cas verticaux |
| nvcc / chaîne d'outils Nsight | Compilateur et profiling (composants du Toolkit, selon la documentation officielle[6]) | Développement et optimisation d'opérateurs maison |
CUDA-X est le nom générique NVIDIA pour la famille de bibliothèques GPU accélérées (documentation officielle) ; les versions des bibliothèques forment une matrice d'appariement avec le CUDA Toolkit — consultez la table de compatibilité avant toute mise à jour (documentation officielle[6])。
| Scénario | Règle | Implication pour la vérification |
|---|---|---|
| Pilote vs CUDA | La version du pilote détermine le plafond CUDA supporté (rétrocompatibilité) | Sur une carte d'occasion, la nvidia-smi CUDA Version en haut à droite = plafond du pilote, pas la version du Toolkit installé |
| Toolkit vs capacité de calcul | Un Toolkit récent supporte les nouveaux CC ; les binaires compilés avec un ancien Toolkit peuvent nécessiter une recompilation sur carte récente | La version CUDA de l'image du framework doit correspondre au CC de la carte — un vieux framework sur carte récente (ex. image CUDA 11.x sur Blackwell) exige de vérifier le chemin de compatibilité |
| Compatibilité ascendante | Un mécanisme de pilote spécifique aux datacenters permet aux cartes récentes d'exécuter d'anciens binaires CUDA (documentation officielle[6]) | Un avantage de compatibilité des cartes datacenter (Tesla/série datacenter) — suivez la documentation officielle, ne vous fiez pas à votre mémoire |
La matrice de compatibilité évolue avec les versions ; référez-vous à la documentation officielle NVIDIA[6] ; ce tableau donne une orientation décisionnelle, pas un manuel opératoire.
CUDA est une plateforme logicielle, sans galerie matérielle ; le schéma de la pile logicielle figure dans la section « Spécifications techniques ». Pour les éléments de marque, se référer aux publications officielles NVIDIA.
| Élément | Statut |
|---|---|
| Accès | Le CUDA Toolkit est distribué via la page de téléchargement officielle NVIDIA (documentation officielle[5]), pilote et Toolkit s'installent séparément |
| Support des frameworks | PyTorch / TensorFlow / JAX / vLLM / TensorRT, etc., utilisent CUDA comme backend GPU principal |
| Conteneurisation | NVIDIA Container Toolkit — les images des frameworks embarquent le runtime CUDA, l'hôte ne gère que le pilote |
| Concurrents | AMD ROCm (écosystème HIP), Intel oneAPI (famille SYCL) — le support des frameworks et la couverture d'opérateurs progressent (voir Limites et controverses) |
| Capital de code | Vingt ans de code CUDA (reproductions d'articles, dépôts open source, opérateurs maison) constituent le cœur du coût de migration |
Informations écosystème compilées à partir de sources publiques ; les versions et matrices de support évoluent, se référer aux publications officielles NVIDIA.
Trois vérifications liées à CUDA lors de l'achat d'une carte (complémentaires à la vérification matérielle des fiches modèles) :
nvidia-smi -q : vérifier version du pilote et plafond CUDA, modèle de carte et mémoire face à la description du vendeur — les cartes à personnalisation cloud (état de licence vGPU) se démasquent à cette étape.Les six tests de charge côté matériel figurent dans les fiches modèles (ex. fiches A100/B300) ; cette section ne couvre que l'angle logiciel.
Vérification d'une carte d'occasion en quatre étapes du point de vue CUDA (à combiner avec les tests matériels) :
nvidia-smi -q : modèle de carte, version du pilote, plafond CUDA Version, VBIOS — à comparer point par point avec la description du vendeur.torch.cuda.get_device_capability() : vérifier le CC contre la table officielle[4]——la fausse carte se révèle sur le CC.La génération matérielle dans l'univers CUDA (ex. 8.0/9.0/10.0) : elle détermine le jeu d'instructions et les fonctionnalités de la carte — frameworks et compilateurs génèrent/sélectionnent le code selon le CC. Vérifier le CC contre le tableau officiel est un moyen redoutable d'identifier les fausses cartes (tableau officiel de correspondance[4])。
Compilateur du CUDA C++ (composant du CUDA Toolkit) : compile les kernels en binaires GPU ciblant un CC spécifique — le « CC cible de compilation » détermine quelles cartes peuvent exécuter le binaire.
L'unité de calcul matriciel introduite depuis Volta : le socle matériel de l'entraînement en précision mixte — chaque nouvelle précision des Tensor Core (FP16→BF16→FP8→FP4) est d'abord prise en charge par la pile CUDA, cas typique du « CUDA qui rattrape le matériel ».
Deux voies alternatives : AMD ROCm (la syntaxe HIP est proche de CUDA, la maturité de la chaîne de migration progresse sans cesse), Intel oneAPI (approche SYCL multi-vendeurs) — la couverture des opérateurs et le temps d'optimisation restent l'écart avec CUDA (consensus des évaluations publiques).
Les règles de compatibilité de CUDA : un nouveau driver supporte les anciennes versions de CUDA (rétrocompatibilité, la norme) ; les cartes data center peuvent, via un mécanisme spécifique, exécuter d'anciens binaires CUDA sur de nouvelles cartes (compatibilité forward, selon la doc officielle[6]) — consultez la doc officielle avant tout déploiement inter-versions, ne vous fiez pas à votre intuition.
Non : le driver est le logiciel de bas niveau qui permet au système de reconnaître la carte ; CUDA est une plateforme de calcul parallèle (compilateur du Toolkit + runtime + toute la gamme CUDA-X). Le « CUDA Version » en haut à droite de nvidia-smi indique le plafond CUDA supporté par le driver, pas la version du Toolkit installé — les deux sont souvent confondus.
Le Compute Capability (CC) détermine quels jeux d'instructions et fonctionnalités de framework la carte peut exécuter : un CC trop ancien ne fera pas tourner les frameworks récents, un CC incohérent avec le modèle trahit potentiellement une fausse carte — vérifier le CC contre le tableau officiel (ex. A100=8.0/H100=9.0/Blackwell=10.0) est un moyen redoutable d'inspection des cartes d'occasion.
Trois leviers : mettre à jour le driver (pour relever le plafond CUDA), utiliser une image de framework adaptée au CC de la carte (runtime embarqué dans le conteneur), vérifier le mécanisme de compatibilité forward officiel pour les cartes data center. Pour toute combinaison précise, la doc officielle NVIDIA fait foi — n'improvisez pas entre versions de mémoire.
Selon les cas : pour les modèles courants des frameworks grand public (PyTorch etc.), ROCm fonctionne déjà, et les outils de migration via la syntaxe HIP proche de CUDA gagnent en maturité ; mais la couverture des opérateurs, le temps d'optimisation et vingt ans d'actifs de code creusent encore l'écart avec CUDA — une nouvelle ligne de production peut l'évaluer, migrer une ligne CUDA existante se chiffre en hommes-mois.
Le SDK CUDA est concédé selon les termes de distribution NVIDIA, qui comportent des clauses restrictives sur la transpilation vers du matériel non NVIDIA (selon les débats publics) — l'usage classique « CUDA sur carte NVIDIA » n'est pas concerné ; pour toute question de conformité liée à la transpilation interplateforme, l'avis juridique fait foi, et les propos de cette base ne constituent pas un avis juridique.