SECTIONS
EDITIONS
NETWORK
AIXX Pedia A enciclopédia do universo da computação

AIXX Pedia › Conceito técnico › Adaptação de baixo rank LoRA

Adaptação de baixo rank LoRA

LOW-RANK ADAPTATION · Verbete de conceito técnico

Visão geral OVERVIEW

O LoRA (Low-Rank Adaptation) é a técnica mais eficiente para o fine-tuning de grandes modelos: em vez de ajustar todos os pesos do modelo (dezenas de GB), treina-se apenas as «matrizes de baixo posto inseridas no modelo» (normalmente apenas dezenas de MB) — o custo do fine-tuning cai mais de 100 vezes. O QLoRA (Quantized LoRA) vai além ao aplicar quantização do modelo base para 4-bit antes de treinar o LoRA — uma única GPU de 48GB basta para fazer fine-tuning de um modelo 70B.

O que significa para os compradores: LoRA/QLoRA reduz drasticamente o limiar de VRAM para o «fine-tuning de grandes modelos» — uma L40S/RTX 6000 Ada de 48GB consegue fazer fine-tuning de um modelo 70B (QLoRA) — sem precisar de um sistema completo com base HGX. Isso impacta diretamente a escolha da GPU: uma máquina tudo-em-um para inferência + fine-tuning (placa PCIe) pode ser mais prática do que um cluster de treino.

Números-chave KEY NUMBERS

ItemValores / critério
Ideia centralTreina-se apenas as matrizes de baixo posto (sem tocar nos pesos do modelo base)
Redução de VRAMQLoRA: base 4-bit + fine-tuning LoRA
VRAM para 70B com QLoRAcerca de 48GB (viável numa única GPU)
Custo de treinomais de 100× menor que o fine-tuning completo

Significado no B300 ON B300

As precisões FP4/FP6 do B300 também podem ser usadas no QLoRA — quantizando o modelo base para FP4 antes de treinar os adaptadores LoRA — com eficiência de memória e throughput de treino superiores ao QLoRA INT4. Porém, a estabilidade de precisão do QLoRA FP4 ainda está em estudo — recomenda-se o QLoRA FP8 como baseline de produção.

Limites e observações LIMITS

  • LoRA não é fine-tuning completo: a capacidade dos adaptadores LoRA é limitada — para tarefas que exigem grandes mudanças no comportamento do modelo (como adicionar novos idiomas), o fine-tuning completo continua insubstituível.
  • Gestão de múltiplos LoRA é complexa: o controle de versões, as estratégias de mesclagem e os testes A/B de vários adaptadores LoRA são desafios de engenharia — não é «treinar e pronto».
  • Restrições de licença do modelo base: as licenças de alguns modelos base restringem o uso comercial dos resultados do fine-tuning LoRA — verifique os termos de licença do modelo base antes de comprar.

Vídeo explicativo VIDEO

Memória HBM3eInterconexão NVLinkSXM / NVL8Refrigeração líquida por placa fria / CDUFormato de precisão FP8MoE (Mixture of Experts)Chip de switch NVSwitchRede de interconexão InfiniBandArmazenamento NVMeRefrigerado a líquido CDUAcesso remoto direto à memória (RDMA)GPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Computação confidencialGPU virtual vGPUPrecisão de ponto flutuante reduzida FP4 / FP6Cache de inferência KV CacheScale-up e Scale-outÓptica encapsulada conjunta (CPO)NVLink FusionArquitetura modular MGXQuantização de modelosParalelismo de tensoresComunicação coletivaFábrica de IACircuito líquidoIndicador de eficiência energética PUETensorRT-LLMMotor de inferência vLLMCanais de cadeia de suprimento de computaçãoCusto total de propriedade (TCO)Benchmarks de throughput de inferênciaDestilação de modelosCadeia de suprimento de energiaEconomia de tokensPipeline de dados de treinamentoStack de otimização de inferênciaMemória de vídeo GDDR7Família de conectores de alimentação (EPS/PCIe 8pin/12VHPWR/12V-2x6)Linha do tempo dos controles de exportação para a ChinaGuia de verificação de GPUs (nvidia-smi/GPU-Z)Otimização de inferência com TensorRTExecução de grafos com CUDA GraphsBiblioteca de comunicação coletiva NCCLFormato aberto de modelos ONNXFamília de gerações HBMTreinamento com precisão mistaGerações PCIeFamília de formatos de rackGuia de nomenclatura de modelos de GPUCircuito de mercado de GPUs usadasComparativo entre refrigerado a ar e refrigerado a líquidoSaúde da memória de vídeo e diagnóstico de falhasMemória de vídeo HBM4Interconexão UALinkFicha de modelo B300

Referências REFERENCES

  1. Site oficial da NVIDIA — páginas do produto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Dados de mercado e oferta: Bolsa de Cálculo AIXX (faixa de cotações deste acervo)
Versões e erratas |Este verbete é mantido pela redação da AIXX Pedia, com rascunho assistido por IA e verificação factual humana. Atualizado em 20/10/2026 · versão v1.0 · todas as alterações ficam registradas e rastreáveis.
Esta base
Política editorialSobre esta base (declaração de interesses)canal de correções
Resumo da constituição editorial
Toda afirmação com fonteDefeitos sempre mencionados · erratas públicas e registradasEntradas pagas não são aceitasZero elementos de direcionamento e vendas nas entradasDados de mercado apenas como módulo de dados anexado
Família AIXX
AIXX PediaBolsa de Cálculo AIXXInformações AIXX
Fonte dos dados de mercado: Bolsa de Cálculo AIXX · © 2026 AIXX Pedia, uma produção AIXX