SECTIONS
EDITIONS
NETWORK
AIXX Pedia La enciclopedia del mundo del cómputo
Ficha técnica SPEC CARD

NVIDIA H100 NVL

94 GB de HBM3 por tarjeta, 188 GB con puente NVLink de dos tarjetas, GPU dedicada a la inferencia de LLM de nivel 70B, refrigerado por aire de doble ranura a 350-400 W, fácil de alojar, con NVIDIA AI Enterprise incluido, el casi tope de gama ineludible en el mercado de segunda mano
Imagen oficial del fabricante de la NVIDIA H100 NVL
Imagen oficial del fabricante NVIDIA

Resumen

La NVIDIA H100 NVL es una GPU de centro de datos en formato PCIe basada en la arquitectura Hopper de NVIDIA, posicionada como un producto casi tope de gama para escenarios de inferencia con grandes cantidades de memoria. Cada tarjeta cuenta con 94 GB de memoria HBM3 y, mediante un puente NVLink, dos tarjetas pueden combinarse en un único bloque de memoria unificado de 188 GB, ideal para cargas de inferencia de modelos de lenguaje con un gran número de parámetros. La tarjeta adopta un diseño de doble ranura con refrigerado por aire y un TDP configurable dentro de cierto rango, lo que facilita su despliegue en entornos de rack estándar. El NVLink proporciona un ancho de banda de interconexión bidireccional de 600 GB/s entre tarjetas, junto con soporte de interfaz de host PCIe Gen5. Incluye el paquete de software NVIDIA AI Enterprise, que cubre las necesidades de inferencia y despliegue de IA a nivel empresarial.

Especificaciones clave

ArquitecturaNVIDIA Hopper
Memoria94GB
Tipo de memoriaHBM3
Ancho de banda de memoria3.9TB/s
Rendimiento FP6430 teraFLOPs
FP64 Tensor Core60 teraFLOPs
Rendimiento FP3260 teraFLOPs
Rendimiento FP83,341 teraFLOPS
Rendimiento FP161,671 teraFLOPS
Rendimiento INT83,341 TOPS
Consumo TDP350-400W (configurable)
InterconexiónNVIDIA NVLink: 600GB/s | PCIe Gen5: 128GB/s
FormatoPCIe dual-slot air-cooled
Segmentación MIGUp to 7 MIGS @ 12GB each
Códecs7 NVDEC | 7 JPEG
Especificaciones verificadas con documentación oficial ( Benchmarks oficiales , actualizado el 2026-10-09) · El precio real está sujeto a la cotización del vendedor

Casos de uso

Modelos de la misma familia

ModeloMemoriaConsumo
NVIDIA T4 Comparación16GB GDDR6 con ECC (activado por defecto)70W (potencia total de la placa, por defecto)
NVIDIA A100 ComparaciónDoble versión: 40GB HBM2 / 80GB HBM2e (la de 80GB se presentó el 16-11-2020 en la SC20), con ECCSXM4 400W (igual en 40GB/80GB); versión PCIe: 40GB 250W / 80GB 300W
NVIDIA H20 Comparación96GB HBM3 (coincidencia en tres fuentes: Flopper/VipraTech/Tencent News)TDP de 400W (coincidencia en tres fuentes: Flopper/tabla de especificaciones de VipraTech/'TDP de 400W' en Tencent News; se descarta la cifra contradictoria de 350W en el texto de VipraTech)
NVIDIA GB300 Comparación288GB HBM3e (por paquete de GPU; 576GB en el superchip; coexisten 2,1TB a nivel de placa HGX y 20TB por rack)TGP de hasta 1400W
NVIDIA A30 Comparación24 GB HBM2165 W
NVIDIA GeForce RTX 4090 Comparación24GB GDDR6XTGP de 450W (315W en juegos de media, fuente de alimentación recomendada de 850W)

Vídeo explicativo VIDEO

Ficha a fondo:H100 · Ficha a fondo

Puntos clave de compra e inspección

Preguntas frecuentes

¿En qué se diferencia la H100 NVL de la versión PCIe estándar de la H100?
La H100 NVL es una variante de la H100 en formato PCIe cuya principal diferencia es que incorpora capacidad de puente NVLink, lo que permite unir dos tarjetas en un bloque de memoria conjunto de 188 GB, diseñada específicamente para escenarios de inferencia que requieren gran memoria entre tarjetas; la versión PCIe estándar normalmente no incluye solución de puente de fábrica. Ambas se basan en la arquitectura Hopper.
¿Basta con 94 GB por tarjeta para ejecutar modelos grandes? ¿Cuándo se necesita el puente de dos tarjetas?
Depende del número de parámetros del modelo y del esquema de cuantización. Si la memoria de una sola tarjeta no basta para alojar los pesos del modelo más los costes en tiempo de ejecución como la KV Cache, se puede unir dos H100 NVL mediante el puente NVLink para obtener 188 GB de memoria conjunta. Tras el puente, el bloque de memoria se conecta por NVLink a 600 GB/s, con una eficiencia de comunicación superior a la de una solución multi-GPU que pase por PCIe Gen5.
¿La H100 NVL es apta para alquiler o alojamiento? ¿Para qué sirve MIG?
Sí. Con su diseño PCIe estándar de doble ranura con refrigerado por aire y su TDP configurable, puede desplegarse en servidores de rack convencionales, con una barrera de alojamiento relativamente baja. La función MIG permite dividir físicamente una tarjeta en hasta 7 instancias independientes de 12 GB de memoria cada una, aisladas entre sí, ideal para que proveedores en la nube o equipos repartan una tarjeta entre varios arrendatarios o varias tareas ligeras de inferencia.
Lectura recomendada:H100-NVL Ficha a fondo · Ficha a fondoH100 vs H100-NVL · Ficha a fondoH200-NVL vs H100-NVL · Ficha a fondoNVIDIA A10 · Ficha a fondoNVIDIA A100 · Ficha a fondo
Datos actualizados el 2026-10-09 · ir a la Ficha a fondo Política editorial Ficha a fondo
Esta base
Política editorialSobre esta base (declaración de intereses)canal de correcciones
Resumen de la constitución editorial
Cada afirmación con fuenteDefectos siempre indicados · correcciones públicas y trazablesNo se aceptan entradas pagadasCero elementos de captación o venta dentro de las entradasLos datos de cotización solo se montan como módulo de datos
Familia AIXX
AIXX PediaAIXX ExchangeAIXX Noticias
Fuente de datos de cotización: AIXX Exchange · © 2026 AIXX Pedia · una producción de AIXX