Ficha técnica SPEC CARD
NVIDIA L40S
Tarjeta Ada de 48GB, todo terreno para inferencia/renderizado/Omniverse en una sola GPU, con 1.466 TF en FP8 disperso y códec AV1; es una de las tarjetas Ada de gran memoria con mayor circulación en stock del mercado actual

Imagen oficial del fabricante NVIDIA
Fotos reales
Imágenes reales
Resumen
La NVIDIA L40S es una GPU de datacenter PCIe de doble ranura basada en la arquitectura Ada Lovelace, equipada con 48GB de memoria GDDR6 (con ECC) y un ancho de banda de 864GB/s, con interconexión bidireccional de 64GB/s mediante PCIe Gen4 x16. Cuenta con 18.176 núcleos CUDA, 142 RT Core de tercera generación y 568 Tensor Core de cuarta generación, con una potencia de hasta 1.466 TFLOPS en FP8 (disperso), además de tres unidades de códec NVENC/NVDEC integradas con soporte de codificación y decodificación AV1. Gracias a la combinación de gran memoria, alta potencia de cómputo y capacidad de procesamiento de vídeo, la L40S se usa habitualmente en inferencia de grandes modelos, generación de imágenes, renderizado con trazado de rayos y cargas de trabajo como Omniverse y gemelos digitales, siendo una de las tarjetas Ada de gran memoria con mayor circulación en stock del mercado.
Especificaciones clave
| Arquitectura | NVIDIA Ada Lovelace architecture |
| Memoria | 48 GB GDDR6 with ECC |
| Ancho de banda de memoria | 864 GB/s |
| Rendimiento FP32 | 91.6 teraFLOPS |
| Rendimiento FP16 | 733 teraFLOPS* |
| Rendimiento FP8 | 1,466 teraFLOPS* |
| Consumo TDP | 350 W |
| Interconexión | PCIe Gen4 x16 |
| Formato | 4.4" (H) x 10.5" (L), dual slot |
| Códecs | 3x (includes AV1 encode and decode) |
Especificaciones verificadas con documentación oficial (
Benchmarks oficiales , actualizado el 2026-10-09) · El precio real está sujeto a la cotización del vendedor
Casos de uso
- Despliegue de inferencia en una sola tarjeta o pequeños clústeres de modelos de lenguaje grandes y modelos multimodales; los 48GB de memoria admiten modelos con muchos parámetros y contextos largos
- Servicios de inferencia de alto rendimiento basados en cuantización FP8/INT8, aprovechando los 1.466 TFLOPS (disperso) de los Tensor Core para elevar el rendimiento
- Renderizado con trazado de rayos fuera de línea y en tiempo real, visualización y creación de contenidos apoyándose en los 142 RT Core de tercera generación
- Aplicaciones de Omniverse y gemelos digitales, además de transcodificación masiva de vídeo y procesamiento de streaming mediante los tres NVENC/NVDEC (con AV1)
Modelos de la misma familia
| Modelo | Memoria | Consumo |
|---|
| NVIDIA T4 Comparación | 16GB GDDR6 con ECC (activado por defecto) | 70W (potencia total de la placa, por defecto) |
| NVIDIA A100 Comparación | Doble versión: 40GB HBM2 / 80GB HBM2e (la de 80GB se presentó el 16-11-2020 en la SC20), con ECC | SXM4 400W (igual en 40GB/80GB); versión PCIe: 40GB 250W / 80GB 300W |
| NVIDIA H20 Comparación | 96GB HBM3 (coincidencia en tres fuentes: Flopper/VipraTech/Tencent News) | TDP de 400W (coincidencia en tres fuentes: Flopper/tabla de especificaciones de VipraTech/'TDP de 400W' en Tencent News; se descarta la cifra contradictoria de 350W en el texto de VipraTech) |
| NVIDIA GB300 Comparación | 288GB HBM3e (por paquete de GPU; 576GB en el superchip; coexisten 2,1TB a nivel de placa HGX y 20TB por rack) | TGP de hasta 1400W |
| NVIDIA A30 Comparación | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 Comparación | 24GB GDDR6X | TGP de 450W (315W en juegos de media, fuente de alimentación recomendada de 850W) |
Vídeo explicativo VIDEO
Puntos clave de compra e inspección
- Atención a la alimentación del equipo y de la sala: la L40S consume como máximo 350W por tarjeta y usa conector de alimentación de 16 pines; el sistema debe contar con fuentes redundantes y cables adecuados, y la densidad de potencia del rack debe planificarse en consecuencia
- Confirmar la refrigeración y el formato del chasis: la tarjeta es de perfil pasivo de doble ranura y altura completa, con dimensiones de aproximadamente 4,4 pulgadas de alto y 10,5 pulgadas de largo; debe instalarse en servidores con flujo de aire suficiente y no es apta para cajas de escritorio convencionales
- Interconexión y topología de despliegue: la L40S solo admite PCIe Gen4 x16 (64GB/s bidireccionales), sin NVLink ni particionado MIG; la comunicación entre tarjetas depende de PCIe y de la red del host, por lo que la selección debe considerar las necesidades de ancho de banda entre GPU de cada carga de trabajo. También conviene tener en cuenta el significado de las certificaciones Secure Boot y NEBS Level 3 en entornos de despliegue
Preguntas frecuentes
¿Cuánta memoria tiene la NVIDIA L40S? ¿Es suficiente para inferencia de grandes modelos?
La L40S incluye 48GB de GDDR6 con soporte ECC y un ancho de banda de 864GB/s. Para inferencia, 48GB permiten alojar modelos con muchos parámetros o ampliar la capacidad mediante cuantización, cubriendo la mayoría de los despliegues de inferencia en una sola tarjeta.
¿La L40S admite NVLink y MIG? ¿Y el entrenamiento multi-GPU?
La L40S no admite la interconexión NVLink ni el particionado Multi-Instance GPU (MIG). La comunicación entre tarjetas solo puede realizarse por PCIe Gen4 x16 (64GB/s bidireccionales), por lo que es más adecuada para inferencia y renderizado; si la carga de trabajo es sensible al ancho de banda entre GPU (como el entrenamiento multi-GPU a gran escala), conviene evaluarlo en el diseño de red.
¿Cómo es la capacidad de códec de vídeo de la L40S? ¿Puede procesar AV1?
Sí. La L40S integra 3 codificadores NVENC y 3 decodificadores NVDEC, con soporte de hardware para codificación y decodificación AV1, ideal para transcodificación de vídeo, procesamiento de streaming y cargas de generación de vídeo gráfico combinadas con renderizado/Omniverse.