SECTIONS
EDITIONS
NETWORK
AIXX Pedia Die Enzyklopädie der Rechenleistung

AIXX Pedia › Technisches Konzept › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · Technologie-Glossareintrag

Überblick OVERVIEW

GPUDirect ist NVIDIAs Familie direkter GPU-Kommunikationstechnologien – Daten umgehen CPU und Systemspeicher und laufen über einen direkten Pfad zwischen GPU und externen Geräten. GPUDirect RDMA erlaubt Netzwerkkarten, direkt auf den GPU-Speicher zu lesen und zu schreiben (ohne Kopiervorgang über die CPU); GPUDirect Storage bringt Speicherdaten direkt in den GPU-Speicher (ebenfalls ohne CPU-Umweg); NVLink stellt die Direktverbindung zwischen GPUs her.

AI-Training und Inferenz profitieren beide von GPUDirect: Beim Training läuft die AllReduce-Gradientensynchronisation über GPUDirect RDMA; bei der Inferenz gelangt der KV-Cache direkt aus dem Speicher in den GPU-Speicher (GPUDirect Storage); Multi-Node-Multi-GPU-Fabrics nutzen GPUDirect+RDMA – der gesamte Datenpfad bleibt ohne CPU-Engpass.

Kennzahlen KEY NUMBERS

PositionWert / Definition
GPUDirect RDMANetzwerkkarte ↔ GPU-Speicher: direkter Pfad
GPUDirect StorageNVMe/Speicher → GPU-Speicher: direkter Pfad
Passende HardwareConnectX-Netzwerkkarte + PCIe-Topologie mit P2P-Unterstützung
SoftwarestackCUDA + NCCL + GPUDirect Storage SDK

Bedeutung für die B300 ON B300

Die gesamte B300-Serie unterstützt GPUDirect – sowohl die clusterübergreifenden Fabrics der GB200/GB300 NVL72 (ConnectX-8) als auch die NVLink-Domain im Rack laufen über GPUDirect-Pfade. Beim Einkauf von Interconnect-Komponenten (Netzwerkkarten/Switches/Kabel) ist die gpudirect-Kompatibilitätsliste Punkt für Punkt abzugleichen – ein zwingender Bestandteil der Abnahme. Module Dritter lassen sich möglicherweise physisch einstecken, funktionieren aber nicht mit GPUDirect.

Grenzen und Hinweise LIMITS

  • GPUDirect erfordert eine passende PCIe-Topologie: GPU und Netzwerkkarte müssen unter derselben PCIe Root Complex liegen – P2P über NUMA-Grenzen hinweg leistet weniger. Bei der Serverauswahl ist die PCIe-Topologie ein zentrales Abnahmekriterium.
  • Die Kompatibilität von Drittanbieter-Speicher und -Netzwerkkarten ist uneinheitlich: Die Kompatibilitätsliste für GPUDirect Storage wird von NVIDIA gepflegt – Geräte außerhalb der Liste zeigen mitunter das Bild „läuft, aber mit Einbußen bei der Leistung“.

Videoerklärung VIDEO

Quellen REFERENCES

  1. NVIDIA-Website – Blackwell Ultra / HGX B300 Produktseite https://www.nvidia.com/en-us/data-center/hgx/
  2. Marktdaten und Angebote: AIXX Börse (Marktband dieser Datenbank)
Versionen und Korrekturen | Dieser Eintrag wird von der AIXX Pedia-Redaktion gepflegt, KI-gestützt verfasst, manuell faktengeprüft. Aktualisiert am 2026-10-20 · Version v1.0 · Alle Änderungen nachvollziehbar dokumentiert.
Datenbank
RedaktionsrichtlinienInteressenmeldung zu dieser DatenbankKorrekturkanal
Auszug aus der Redaktionsverfassung
Jede Aussage mit QuelleSchwächen immer benannt · Korrekturen öffentlich dokumentiertKeine bezahlten EinträgeKeine Werbung oder Verkaufselemente in EinträgenMarktdaten ausschließlich als Datenmodul eingebunden
AIXX-Familie
AIXX PediaAIXX BörseAIXX News
Quellen der Marktdaten: AIXX Börse · © 2026 AIXX Pedia · Ein Angebot von AIXX