SECTIONS
EDITIONS
NETWORK
AIXX Pedia La enciclopedia del mundo del cómputo

AIXX Pedia › Concepto técnico › Adaptación de bajo rango LoRA

Adaptación de bajo rango LoRA

LOW-RANK ADAPTATION · Ficha de concepto técnico

Resumen OVERVIEW

LoRA (Low-Rank Adaptation) es la técnica más eficiente para el fine-tuning de grandes modelos: en lugar de ajustar todos los pesos del modelo (decenas de GB), solo se entrenan las «matrices de bajo rango insertadas en el modelo» (normalmente solo decenas de MB), lo que reduce el coste del fine-tuning más de 100 veces. QLoRA (Quantized LoRA) va más allá: cuantiza el modelo base a 4-bit antes de entrenar el LoRA, permitiendo hacer fine-tuning de un modelo de 70B con una sola tarjeta de 48GB.

Lo que significa para los compradores: LoRA/QLoRA reduce drásticamente la barrera de memoria de vídeo del «fine-tuning de grandes modelos»: una L40S o RTX 6000 Ada de 48GB basta para hacer fine-tuning de un modelo 70B (QLoRA), sin necesidad de un equipo completo con placa base HGX. Esto influye directamente en la selección de GPU: una máquina todo en uno para inferencia y fine-tuning (tarjeta PCIe) puede resultar más práctica que un clúster de entrenamiento.

Cifras clave KEY NUMBERS

ConceptoValor / criterio
Idea centralSolo se entrenan las matrices de bajo rango (sin tocar los pesos base)
Reducción de memoria de vídeoQLoRA: base a 4-bit + fine-tuning LoRA
Memoria de vídeo para 70B con QLoRAUnos 48GB (viable con una sola tarjeta)
Coste de entrenamientoMás de 100× menos que el fine-tuning completo

Su relevancia en el B300 ON B300

Las precisiones FP4/FP6 del B300 también sirven para QLoRA: cuantizando el modelo base a FP4 antes de entrenar el adaptador LoRA, tanto la eficiencia de memoria como el rendimiento de entrenamiento superan al QLoRA en INT4. Sin embargo, la estabilidad de precisión del QLoRA en FP4 sigue en estudio; se recomienda FP8 QLoRA como línea base de producción.

Límites y advertencias LIMITS

  • LoRA no equivale al fine-tuning completo: la capacidad del adaptador es limitada y, para tareas que exigen cambios profundos en el comportamiento del modelo (como añadir competencias en nuevos idiomas), el fine-tuning completo sigue siendo insustituible.
  • La gestión multi-LoRA es compleja: el control de versiones de múltiples adaptadores LoRA, las estrategias de fusión y las pruebas A/B son retos de ingeniería; no basta con «entrenar y listo».
  • Restricciones de licencia del modelo base: algunas licencias limitan el uso comercial de los resultados del fine-tuning LoRA; verifique los términos de licencia del modelo base antes de comprar.

Vídeo explicativo VIDEO

Memoria HBM3eInterconexión NVLinkSXM / NVL8refrigeración líquida por placa fría / CDUFormato de precisión FP8MoE (mezcla de expertos)Chip conmutador NVSwitchRed de interconexión InfiniBandAlmacenamiento NVMeCDU de refrigerado por líquidoAcceso remoto directo a memoria RDMAGPUDirectTensor CoreGPU multi-instancia MIGPCIe Gen5Computación confidencialGPU virtual vGPUPrecisión de punto flotante reducida FP4 / FP6Caché de inferencia KV CacheScale-up y Scale-outÓptica copackaged CPONVLink FusionArquitectura modular MGXCuantización de modelosParalelismo de tensoresComunicaciones colectivasFábrica de IACircuito de refrigeración líquidaIndicador de eficiencia energética PUETensorRT-LLMMotor de inferencia vLLMCadena de suministro de cómputoCoste total de propiedad (TCO)Benchmarks de rendimiento de inferenciaDestilación de modelosCadena de suministro de energíaEconomía del tokenPipeline de datos de entrenamientoStack de optimización de inferenciaMemoria de vídeo GDDR7Familia de conectores de alimentación (EPS/PCIe 8pin/12VHPWR/12V-2x6)Cronología de los controles de exportación hacia ChinaGuía de verificación de GPU (nvidia-smi/GPU-Z)Optimización de inferencia con TensorRTEjecución por grafos con CUDA GraphsBiblioteca de comunicación colectiva NCCLFormato abierto de modelos ONNXGenealogía de generaciones HBMEntrenamiento en precisión mixtaGeneraciones de PCIeGenealogía de formatos de rackGuía de nomenclatura de modelos de GPUCircuito de comercialización de GPU de segunda manoComparativa entre refrigerado por aire y refrigerado por líquidoSalud de la memoria de vídeo y diagnóstico de fallosMemoria de vídeo HBM4Interconexión UALinkFicha de modelo B300

Referencias REFERENCES

  1. Sitio oficial de NVIDIA — Página del producto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Datos de mercado y disponibilidad: AIXX Exchange (franja de mercado de esta base)
Versiones y correcciones |Esta ficha está mantenida por el equipo editorial de AIXX Pedia, redactada con asistencia de IA y verificada por humanos. Actualizada el 2026-10-20 · versión v1.0 · todos los cambios quedan registrados y son consultables.
Esta base
Política editorialSobre esta base (declaración de intereses)canal de correcciones
Resumen de la constitución editorial
Cada afirmación con fuenteDefectos siempre indicados · correcciones públicas y trazablesNo se aceptan entradas pagadasCero elementos de captación o venta dentro de las entradasLos datos de cotización solo se montan como módulo de datos
Familia AIXX
AIXX PediaAIXX ExchangeAIXX Noticias
Fuente de datos de cotización: AIXX Exchange · © 2026 AIXX Pedia · una producción de AIXX