SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전

AIXX 백과사전 › 기술 개념 › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · 기술 개념 용어

개요OVERVIEW

GPUDirect는 NVIDIA의 GPU 직접 통신 기술군으로, 데이터가 CPU와 시스템 메모리를 우회해 GPU와 외부 장치 간 직접 경로를 구축하도록 합니다. GPUDirect RDMA는 NIC가 GPU 메모리를 직접 읽고 쓰게 하여(CPU 경유 복사 생략) GPUDirect Storage는 스토리지 데이터를 GPU 메모리로 직접 전달하며(CPU 경유 생략), NVLink는 GPU 간 직접 연결입니다.

AI 학습과 추론 모두 GPUDirect의 이점을 받습니다. 학습 시 AllReduce 그래디언트 동기화는 GPUDirect RDMA로 처리되고, 추론 시 KV cache가 스토리지에서 GPU 메모리로 직접 전달되며(GPUDirect Storage), 다중 노드 다중 GPU fabric은 GPUDirect+RDMA로 구동됩니다. 즉 전체 데이터 경로에 CPU 경유 병목이 없습니다.

핵심 수치KEY NUMBERS

항목수치 / 기준
GPUDirect RDMANIC↔GPU 메모리 직접 경로
GPUDirect StorageNVMe/스토리지→GPU 메모리 직접 경로
관련 하드웨어ConnectX NIC + P2P 지원 PCIe 토폴로지
소프트웨어 스택CUDA + NCCL + GPUDirect Storage SDK

B300에서의 의미ON B300

B300 전 라인업이 GPUDirect를 지원합니다. GB200/GB300 NVL72의 노드 간 fabric(ConnectX-8)과 랙 내 NVLink 도메인 모두 GPUDirect 경로를 사용합니다. 인터커넥트 부품(NIC/스위치/케이블) 조달 시 GPUDirect 호환성 목록을 항목별로 확인하는 것은 필수 검수 항목입니다. 서드파티 모듈은 물리적으로 장착되더라도 GPUDirect가 동작하지 않을 수 있습니다.

경계와 주의점LIMITS

  • GPUDirect에는 PCIe 토폴로지 구성이 필요합니다. GPU와 NIC는 반드시 동일한 PCIe Root Complex 하위에 있어야 하며, NUMA 노드를 넘는 P2P는 성능이 저하됩니다. 서버 선정 시 PCIe 토폴로지는 핵심 검수 항목입니다.
  • 서드파티 스토리지/NIC 호환성은 편차가 큽니다. GPUDirect Storage의 호환 목록은 NVIDIA가 관리하며, 목록에 없는 장치는 '동작은 하지만 성능이 떨어지는' 상황이 발생할 수 있습니다.

영상 해설VIDEO

참고 자료REFERENCES

  1. NVIDIA 공식 사이트 — Blackwell Ultra / HGX B300 제품 페이지 https://www.nvidia.com/en-us/data-center/hgx/
  2. 시세 및 판매 데이터:AIXX 거래소(본 데이터베이스 시세 밴드)
버전 및 정정| 본 항목은 AIXX Pedia 편집부가 관리하며, AI 보조 초안 작성 후 사람이 사실을 검증했다. 업데이트: 2026-10-21 · 버전 v1.0 · 모든 변경 이력은 추적 가능하다.
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공