AIXX Pedia › Conceito técnico › GPUDirect
GPUDirect é a família de tecnologias de comunicação direta de GPU da NVIDIA — os dados contornam a CPU e a memória do sistema, estabelecendo um caminho direto entre a GPU e dispositivos externos. O GPUDirect RDMA permite que a placa de rede leia e escreva diretamente na memória da GPU (eliminando a cópia intermediada pela CPU); o GPUDirect Storage faz os dados de armazenamento chegarem direto à memória da GPU (também sem passar pela CPU); o NVLink é a conexão direta entre GPUs.
O treinamento e a inferência de IA se beneficiam do GPUDirect: no treinamento, a sincronização de gradientes via AllReduce passa pelo GPUDirect RDMA; na inferência, o KV cache vai do armazenamento direto à memória da GPU (GPUDirect Storage); o fabric multi-nó multi-GPU usa GPUDirect+RDMA — todo o caminho de dados fica livre do gargalo da intermediação pela CPU.
| Item | Valores / critério |
|---|---|
| GPUDirect RDMA | Acesso direto: placa de rede ↔ memória da GPU |
| GPUDirect Storage | Acesso direto: NVMe/armazenamento → memória da GPU |
| Hardware complementar | Placa de rede ConnectX + topologia PCIe com suporte a P2P |
| Software | CUDA + NCCL + GPUDirect Storage SDK |
Toda a linha B300 oferece suporte a GPUDirect — no GB200/GB300 NVL72, tanto o fabric entre nós (ConnectX-8) quanto o domínio NVLink dentro do rack seguem caminhos GPUDirect. Ao adquirir componentes de interconexão (placas de rede/switches/cabos), verificar item por item a lista de compatibilidade GPUDirect é uma etapa obrigatória na aceitação — módulos de terceiros podem encaixar fisicamente, mas o GPUDirect não funcionar.