SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung

AIXX Pedia › Technisches Konzept › LoRA (Low-Rank-Adaption)

LoRA (Low-Rank-Adaption)

LOW-RANK ADAPTATION · Technischer Fachbegriff

Überblick OVERVIEW

LoRA (Low-Rank Adaptation) ist die effizienteste Technik zum Fine-Tuning großer Modelle: Statt alle Gewichte des Modells (mehrere dutzend GB) anzupassen, trainiert man nur die „in das Modell eingefügten Matrizen mit niedrigem Rang“ (üblicherweise nur wenige dutzend MB) – die Kosten des Fine-Tunings sinken um mehr als das Hundertfache. QLoRA (Quantized LoRA) quantisiert das Basismodell zusätzlich auf 4 Bit und trainiert dann LoRA – mit einer einzelnen 48-GB-Karte lässt sich bereits ein 70B-Modell fine-tunen.

Bedeutung für Einkäufer: LoRA/QLoRA senken die VRAM-Hürde für das Fine-Tuning großer Modelle erheblich – eine 48-GB-Karte wie die L40S/RTX 6000 Ada reicht aus, um ein 70B-Modell zu fine-tunen (QLoRA) – ein HGX-Grundplatten-Komplettsystem ist nicht erforderlich. Das wirkt sich direkt auf die GPU-Auswahl aus: Ein All-in-One-System für Inferenz und Fine-Tuning (PCIe-Karte) kann praktischer sein als ein Trainingscluster.

Kennzahlen KEY NUMBERS

PositionWert / Definition
KernideeNur die Matrizen mit niedrigem Rang trainieren (Basisgewichte bleiben unangetastet)
Reduzierung des VRAM-BedarfsQLoRA: 4-Bit-Basismodell + LoRA-Fine-Tuning
VRAM-Bedarf bei 70B mit QLoRArund 48 GB (auf einer einzelnen Karte machbar)
Trainingskostenüber 100× geringer als beim vollständigen Fine-Tuning

Bedeutung für die B300 ON B300

Die FP4/FP6-Präzision der B300 lässt sich ebenfalls für QLoRA nutzen – das Basismodell wird auf FP4 quantisiert und dann der LoRA-Adapter trainiert – VRAM-Effizienz und Trainingsdurchsatz übertreffen dabei INT4-QLoRA. Die Präzisionsstabilität von FP4-QLoRA ist jedoch noch Gegenstand der Forschung – FP8-QLoRA wird als Produktionsbaseline empfohlen.

Grenzen und Hinweise LIMITS

  • LoRA ist nicht gleichbedeutend mit vollständigem Fine-Tuning: Die Adapterkapazität von LoRA ist begrenzt – für Aufgaben, die das Modellverhalten stark verändern (etwa das Hinzufügen neuer Sprachfähigkeiten), bleibt vollständiges Fine-Tuning unersetzlich.
  • Verwaltung mehrerer LoRAs ist komplex: Versionsverwaltung, Mergestrategien und A/B-Tests mehrerer LoRA-Adapter sind eine technische Herausforderung – mit dem Training ist es nicht getan.
  • Lizenzbeschränkungen der Basismodelle: Die Lizenzen bestimmter Basismodelle schränken die kommerzielle Nutzung von LoRA-Fine-Tuning-Ergebnissen ein – vor dem Kauf die Lizenzbedingungen des Basismodells prüfen.

Videoerklärung VIDEO

Quellen REFERENCES

  1. NVIDIA-Website – Blackwell Ultra / HGX B300 Produktseite https://www.nvidia.com/en-us/data-center/hgx/
  2. Marktdaten und Angebote: AIXX Börse (Marktband dieser Datenbank)
Versionen und Korrekturen | Dieser Eintrag wird von der AIXX Pedia-Redaktion gepflegt, KI-gestützt verfasst, manuell faktengeprüft. Aktualisiert am 2026-10-20 · Version v1.0 · Alle Änderungen nachvollziehbar dokumentiert.
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX