SECTIONS
EDITIONS
NETWORK
AIXX Pedia A enciclopédia do universo da computação

AIXX Pedia › Conceito técnico › GPUDirect

GPUDirect

NVIDIA GPUDIRECT · Verbete técnico

Visão geral OVERVIEW

GPUDirect é a família de tecnologias de comunicação direta de GPU da NVIDIA — os dados contornam a CPU e a memória do sistema, estabelecendo um caminho direto entre a GPU e dispositivos externos. O GPUDirect RDMA permite que a placa de rede leia e escreva diretamente na memória da GPU (eliminando a cópia intermediada pela CPU); o GPUDirect Storage faz os dados de armazenamento chegarem direto à memória da GPU (também sem passar pela CPU); o NVLink é a conexão direta entre GPUs.

O treinamento e a inferência de IA se beneficiam do GPUDirect: no treinamento, a sincronização de gradientes via AllReduce passa pelo GPUDirect RDMA; na inferência, o KV cache vai do armazenamento direto à memória da GPU (GPUDirect Storage); o fabric multi-nó multi-GPU usa GPUDirect+RDMA — todo o caminho de dados fica livre do gargalo da intermediação pela CPU.

Números-chave KEY NUMBERS

ItemValores / critério
GPUDirect RDMAAcesso direto: placa de rede ↔ memória da GPU
GPUDirect StorageAcesso direto: NVMe/armazenamento → memória da GPU
Hardware complementarPlaca de rede ConnectX + topologia PCIe com suporte a P2P
SoftwareCUDA + NCCL + GPUDirect Storage SDK

Significado no B300 ON B300

Toda a linha B300 oferece suporte a GPUDirect — no GB200/GB300 NVL72, tanto o fabric entre nós (ConnectX-8) quanto o domínio NVLink dentro do rack seguem caminhos GPUDirect. Ao adquirir componentes de interconexão (placas de rede/switches/cabos), verificar item por item a lista de compatibilidade GPUDirect é uma etapa obrigatória na aceitação — módulos de terceiros podem encaixar fisicamente, mas o GPUDirect não funcionar.

Limites e observações LIMITS

  • O GPUDirect exige uma topologia PCIe adequada: GPU e placa de rede devem estar sob o mesmo PCIe Root Complex — o desempenho P2P entre nós NUMA distintos cai, e a topologia PCIe é um item central de aceitação na escolha do servidor.
  • A compatibilidade de armazenamento e placas de rede de terceiros é irregular: a lista de compatibilidade do GPUDirect Storage é mantida pela NVIDIA — dispositivos fora da lista podem apresentar o cenário de «funciona, mas com desempenho reduzido».

Vídeo explicativo VIDEO

Memória HBM3eInterconexão NVLinkSXM / NVL8Refrigeração líquida por placa fria / CDUFormato de precisão FP8MoE (Mixture of Experts)Chip de switch NVSwitchRede de interconexão InfiniBandArmazenamento NVMeRefrigerado a líquido CDUAcesso remoto direto à memória (RDMA)Tensor CoreMIG (Multi-Instance GPU)PCIe Gen5Computação confidencialGPU virtual vGPUPrecisão de ponto flutuante reduzida FP4 / FP6Cache de inferência KV CacheScale-up e Scale-outÓptica encapsulada conjunta (CPO)NVLink FusionArquitetura modular MGXQuantização de modelosParalelismo de tensoresComunicação coletivaFábrica de IACircuito líquidoIndicador de eficiência energética PUETensorRT-LLMMotor de inferência vLLMAdaptação de baixo rank LoRACanais de cadeia de suprimento de computaçãoCusto total de propriedade (TCO)Benchmarks de throughput de inferênciaDestilação de modelosCadeia de suprimento de energiaEconomia de tokensPipeline de dados de treinamentoStack de otimização de inferênciaMemória de vídeo GDDR7Família de conectores de alimentação (EPS/PCIe 8pin/12VHPWR/12V-2x6)Linha do tempo dos controles de exportação para a ChinaGuia de verificação de GPUs (nvidia-smi/GPU-Z)Otimização de inferência com TensorRTExecução de grafos com CUDA GraphsBiblioteca de comunicação coletiva NCCLFormato aberto de modelos ONNXFamília de gerações HBMTreinamento com precisão mistaGerações PCIeFamília de formatos de rackGuia de nomenclatura de modelos de GPUCircuito de mercado de GPUs usadasComparativo entre refrigerado a ar e refrigerado a líquidoSaúde da memória de vídeo e diagnóstico de falhasMemória de vídeo HBM4Interconexão UALinkFicha de modelo B300

Referências REFERENCES

  1. Site oficial da NVIDIA — páginas do produto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Dados de mercado e oferta: Bolsa de Computação AIXX (faixa de cotações deste acervo)
Versões e erratas |Este verbete é mantido pela redação da AIXX Pedia, com rascunho assistido por IA e verificação factual humana. Atualizado em 20/10/2026 · versão v1.0 · todas as alterações ficam registradas e rastreáveis.
Esta base
Política editorialSobre esta base (declaração de interesses)canal de correções
Resumo da constituição editorial
Toda afirmação com fonteDefeitos sempre mencionados · erratas públicas e registradasEntradas pagas não são aceitasZero elementos de direcionamento e vendas nas entradasDados de mercado apenas como módulo de dados anexado
Família AIXX
AIXX PediaBolsa de Computação AIXXNotícias AIXX
Fonte dos dados de mercado: Bolsa de Computação AIXX · © 2026 AIXX Pedia · Produzido pela AIXX