SECTIONS
EDITIONS
NETWORK
AIXX Pedia Энциклопедия вычислительных мощностей

AIXX Pedia › Техническая концепция › LoRA — низкоранговая адаптация

LoRA — низкоранговая адаптация

LOW-RANK ADAPTATION · технический термин

Обзор OVERVIEW

LoRA (Low-Rank Adaptation) — самая эффективная технология дообучения больших моделей: вместо настройки всех весов модели (десятки ГБ) обучаются только «вставляемые в модель низкоранговые матрицы» (обычно всего десятки МБ) — стоимость дообучения снижается более чем в 100 раз. QLoRA (Quantized LoRA) дополнительно квантизация базовой модели до 4-bit перед обучением LoRA — дообучить модель 70B можно уже на одной карте с 48 ГБ памяти.

Что это значит для закупщика: LoRA/QLoRA резко снижают порог по видеопамяти для «дообучения больших моделей» — L40S/RTX 6000 Ada с 48 ГБ позволяют дообучать модель 70B (QLoRA) — полноценная система на базе HGX не требуется. Это напрямую влияет на выбор GPU: универсальная машина «инференс + дообучение» (PCIe-карты) может оказаться практичнее учебного кластера.

Ключевые цифры KEY NUMBERS

ПараметрЗначение / формат
Ключевая идеяОбучаются только низкоранговые матрицы (базовые веса не трогаются)
Экономия видеопамятиQLoRA: 4-bit база + дообучение LoRA
Память для 70B QLoRAОколо 48 ГБ (реально на одной карте)
Стоимость обученияНа 100×+ дешевле полного дообучения

Значение для B300 ON B300

FP4/FP6-точности B300 также применимы в QLoRA — квантизация базовой модели до FP4 с последующим обучением LoRA-адаптеров — по эффективности использования памяти и пропускной способности обучения это превосходит INT4 QLoRA. Однако стабильность точности FP4 QLoRA всё ещё исследуется — в качестве производственного базового варианта рекомендуется FP8 QLoRA.

Границы и оговорки LIMITS

  • LoRA не равноценна полному дообучению: ёмкость адаптеров LoRA ограничена — для задач, требующих существенного изменения поведения модели (например, добавления нового языка), полное дообучение по-прежнему незаменимо.
  • Управление несколькими LoRA усложняет работу: контроль версий, стратегии слияния и A/B-тестирование множества LoRA-адаптеров — инженерный вызов, а не «обучил и забыл».
  • Ограничения лицензий базовых моделей: лицензии некоторых базовых моделей ограничивают коммерческое использование результатов LoRA-дообучения — перед закупкой проверьте условия лицензии базовой модели.

Видеообзор VIDEO

Видеопамять HBM3eИнтерконнект NVLinkSXM / NVL8Жидкостное охлаждение с холодной плитой / CDUФормат точности FP8MoE(смесь экспертов)Коммутационный чип NVSwitchСеть на базе InfiniBandХранилище NVMeЖидкостное охлаждение CDURDMA — удалённый прямой доступ к памятиGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Конфиденциальные вычисленияВиртуальный GPU vGPUМикроформаты с плавающей точкой FP4 / FP6Кэш вывода KV CacheScale-up и Scale-outСовмещённая оптика CPONVLink FusionМодульная архитектура MGXКвантизация моделейТензорный параллелизмКоллективные коммуникацииAI-фабрикаКонтур жидкостного охлажденияПоказатель энергоэффективности PUETensorRT-LLMДвижок вывода vLLMКаналы поставок вычислительной техникиСовокупная стоимость владения TCOБенчмарки пропускной способности при выводеДистилляция моделейЦепочка энергоснабженияЭкономика токеновКонвейер обучающих данныхСтек оптимизации выводаВидеопамять GDDR7Семейство разъёмов питания (EPS/PCIe 8pin/12VHPWR/12V-2x6)Хронология экспортного контроляРуководство по проверке GPU (nvidia-smi/GPU-Z)Оптимизация вывода TensorRTВыполнение графов CUDA GraphsБиблиотека коллективных коммуникаций NCCLОткрытый формат моделей ONNXПоколения памяти HBMОбучение со смешанной точностьюПоколения PCIeСемейство форм-факторов стоекРазбор правил именования моделей GPUЦепочка оборота подержанных GPUСравнение систем с воздушным и жидкостным охлаждениемДиагностика здоровья и неисправностей видеопамятиПамять HBM4Интерконнект UALinkСтатья о модели B300

Источники REFERENCES

  1. Официальный сайт NVIDIA — страница продукта Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Рыночные данные и предложения в наличии: AIXX Exchange (полоса рыночных данных базы)
Версии и исправления |Статья поддерживается редакцией AIXX Pedia: черновик подготовлен ИИ, факты проверены вручную. Обновлено 21.10.2026 · версия v1.0 · все изменения сохраняются и доступны для проверки.
Энциклопедия
Редакционная политикаО энциклопедии (декларация интересов)канал исправлений
Кратко о редакционном уставе
Каждое утверждение с источникомНедостатки обязательны · исправления публичныПлатные статьи не принимаютсяНоль рекламы и продаж внутри статейРыночные данные подключаются только как модуль данных
Семейство AIXX
AIXX PediaAIXX ExchangeAIXX News
Источник рыночных данных: AIXX Exchange · © 2026 AIXX Pedia · Продукт AIXX