SECTIONS
EDITIONS
NETWORK
AIXXPedia算力分野の百科事典

AIXX 百科 › 技術コンセプト › LoRA 低ランクアダプテーション

LoRA 低ランクアダプテーション

LOW-RANK ADAPTATION · 技術コンセプト用語

概要OVERVIEW

LoRA(Low-Rank Adaptation)は大規模モデルのファインチューニングで最も効率的な技術です。モデルの全重み(数十GB)を調整するのではなく、モデルに挿入する低ランク行列(通常わずか数十MB)だけを学習します——ファインチューニングのコストを100倍以上削減できます。QLoRA(Quantized LoRA)はさらにベースモデルを量子化して4-bitにし、その上でLoRAを学習する手法で、48GBのGPU 1枚で70Bモデルのファインチューニングが可能です。

調達担当者への意味:LoRA/QLoRAによって「大規模モデルのファインチューニング」に必要なVRAMのハードルが大幅に下がります——48GBのL40S/RTX 6000 Adaでも70Bモデルをファインチューニング可能(QLoRA)——HGXベースボードのフル構成は不要です。これはGPU選定に直結します。推論+ファインチューニングを1台でこなすオールインワン機(PCIeカード)が、トレーニングクラスター实勢より実用的な場合があります。

主要数値KEY NUMBERS

項目数値 / 基準
核心思想低ランク行列のみを学習(ベース重みには触れない)
VRAM削減QLoRA 4-bitベース + LoRAファインチューニング
70B QLoRAのVRAM約48GB(シングルカードで実現可能)
トレーニングコストフルファインチューニング比で100×以上削減

B300 における意義ON B300

B300のFP4/FP6精度もQLoRAに活用できます——ベースモデルをFP4に量子化してからLoRAアダプタを学習する方式で、VRAM効率もトレーニングスループットもINT4 QLoRAを上回ります。ただしFP4 QLoRAの精度安定性はまだ研究中であり、本番環境のベースラインとしてはFP8 QLoRAを推奨します。

限界と留意点LIMITS

  • LoRAはフルファインチューニングと同じではありません:LoRAのアダプタ容量には限りがあり、モデルの挙動を大きく変える必要があるタスク(新しい言語能力の追加など)では、フルファインチューニングは依然として代替できません。
  • 複数LoRAの管理コスト:複数のLoRAアダプタのバージョン管理、マージ戦略、A/Bテストは工学的な課題であり、「学習して終わり」ではありません。
  • ベースモデルのライセンス制約:一部のベースモデルはライセンスでLoRAファインチューニング成果の商用利用を制限しています——調達前にベースモデルのライセンス条項を確認してください。

動画解説VIDEO

HBM3e メモリNVLink インターコネクトSXM / NVL8コールドプレート液冷 / CDUFP8 精度フォーマットMoE 混合エキスパートNVSwitch スイッチチップInfiniBand インターコネクトネットワークNVMe ストレージ液冷CDURDMA リモートダイレクトメモリアクセスGPUDirectTensor Core テンソルコアMIG マルチインスタンス GPUPCIe Gen5コンフィデンシャルコンピューティングvGPU 仮想 GPUFP4 / FP6 マイクロスケーリング浮動小数点精度KV Cache 推論キャッシュScale-up と Scale-outCPO コパッケージオプティクスNVLink FusionMGX モジュラーアーキテクチャモデルの量子化テンソル並列集合通信AI ファクトリー液冷回路PUE エネルギー効率指標TensorRT-LLMvLLM 推論エンジン計算資源サプライチェーンチャネルTCO 総所有コスト推論スループットベンチマークモデルの蒸留電力サプライチェーンToken 経済学学習データパイプライン推論最適化技術スタックGDDR7 メモリ電源コネクタ系譜(EPS/PCIe 8pin/12VHPWR/12V-2x6)対中輸出規制のタイムラインGPU 検証ガイド(nvidia-smi/GPU-Z)TensorRT 推論最適化CUDA Graphs グラフ実行NCCL 集合通信ライブラリONNX オープンモデルフォーマットHBM 世代系譜混合精度学習PCIe 世代ラックフォームファクター系譜GPU 型番命名規則の読み解き中古 GPU 流通経路空冷と液冷の比較メモリの健全性と故障判読HBM4 メモリUALink インターコネクトB300 機種項目

参考文献REFERENCES

  1. NVIDIA公式サイト — Blackwell Ultra / HGX B300 製品ページ https://www.nvidia.com/en-us/data-center/hgx/
  2. 相場と販売データ:AIXX 取引所(本データベースの相場帯)
バージョンと訂正|本項目は AIXX Pedia 編集部が管理し、AI が下書きし、人手で事実確認を行っています。更新:2026-10-20 · バージョン v1.0 · 変更履歴はすべて追跡可能です。
本ライブラリ
編集ポリシー本ライブラリについて(利益相反の表明)訂正窓口
編集憲法の概要
すべての記述に出典を明記弱点は必ず記載・訂正は公開で記録に残す有料項目は受け付けない項目内への誘導・販売要素は一切なし市況データはデータモジュールとしてのみ掲載
AIXX ファミリー
AIXX 百科AIXX 取引所AIXX ニュース
市況データの出典:AIXX 取引所 · © 2026 AIXX 百科 AIXX Pedia · AIXX 制作