SECTIONS
EDITIONS
NETWORK
AIXX Pedia La enciclopedia del mundo del cómputo

AIXX Pedia › Concepto técnico › MoE (mezcla de expertos)

MoE (mezcla de expertos)

MIXTURE OF EXPERTS · Ficha de concepto técnico

Resumen OVERVIEW

MoE (Mixture of Experts) es una arquitectura de grandes modelos basada en la «activación dispersa»: el número total de parámetros es muy grande, pero en cada inferencia solo se activa una parte de las redes «expertas».

Un ejemplo típico es DeepSeek R1: 671B de parámetros totales, de los cuales solo se activan unos 37B en cada inferencia: la capacidad queda desacoplada del coste de cómputo.

Cifras clave KEY NUMBERS

ConceptoValor / criterio
Parámetros totales del ejemploDeepSeek R1 671B
Activación por pasadaAprox. 37B
Implicación en VRAMTodos los parámetros deben residir igualmente en la GPU
Comparativa con B300 NVL82,3TB de VRAM total permiten un despliegue completo en un solo nodo

Su relevancia en el B300 ON B300

El apetito de VRAM de un MoE se calcula según los parámetros totales, no según los activados: este es el caso de uso principal de máquinas de gran capacidad de memoria como la B300.

El cuello de botella del rendimiento de inferencia suele estar en la comunicación del paralelismo de expertos, por lo que la interconexión y la red son igual de críticas.

Límites y advertencias LIMITS

  • Todos los parámetros deben caber en la VRAM; si la capacidad no basta, solo queda la cuantización o el recorte.
  • El equilibrio de carga entre expertos es un reto de ingeniería, y la eficiencia real varía enormemente según el framework y la configuración.

Vídeo explicativo VIDEO

Memoria HBM3eInterconexión NVLinkSXM / NVL8refrigeración líquida por placa fría / CDUFormato de precisión FP8Chip conmutador NVSwitchRed de interconexión InfiniBandAlmacenamiento NVMeCDU de refrigerado por líquidoAcceso remoto directo a memoria RDMAGPUDirectTensor CoreGPU multi-instancia MIGPCIe Gen5Computación confidencialGPU virtual vGPUPrecisión de punto flotante reducida FP4 / FP6Caché de inferencia KV CacheScale-up y Scale-outÓptica copackaged CPONVLink FusionArquitectura modular MGXCuantización de modelosParalelismo de tensoresComunicaciones colectivasFábrica de IACircuito de refrigeración líquidaIndicador de eficiencia energética PUETensorRT-LLMMotor de inferencia vLLMAdaptación de bajo rango LoRACadena de suministro de cómputoCoste total de propiedad (TCO)Benchmarks de rendimiento de inferenciaDestilación de modelosCadena de suministro de energíaEconomía del tokenPipeline de datos de entrenamientoStack de optimización de inferenciaMemoria de vídeo GDDR7Familia de conectores de alimentación (EPS/PCIe 8pin/12VHPWR/12V-2x6)Cronología de los controles de exportación hacia ChinaGuía de verificación de GPU (nvidia-smi/GPU-Z)Optimización de inferencia con TensorRTEjecución por grafos con CUDA GraphsBiblioteca de comunicación colectiva NCCLFormato abierto de modelos ONNXGenealogía de generaciones HBMEntrenamiento en precisión mixtaGeneraciones de PCIeGenealogía de formatos de rackGuía de nomenclatura de modelos de GPUCircuito de comercialización de GPU de segunda manoComparativa entre refrigerado por aire y refrigerado por líquidoSalud de la memoria de vídeo y diagnóstico de fallosMemoria de vídeo HBM4Interconexión UALinkFicha de modelo B300

Referencias REFERENCES

  1. Sitio oficial de NVIDIA — Página del producto Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Datos de mercado y disponibilidad: AIXX Exchange (franja de mercado de esta base)
Versiones y correcciones |Esta ficha está mantenida por el equipo editorial de AIXX Pedia, redactada con asistencia de IA y verificada por humanos. Actualizada el 2026-10-20 · versión v1.0 · todos los cambios quedan registrados y son consultables.
Esta base
Política editorialSobre esta base (declaración de intereses)canal de correcciones
Resumen de la constitución editorial
Cada afirmación con fuenteDefectos siempre indicados · correcciones públicas y trazablesNo se aceptan entradas pagadasCero elementos de captación o venta dentro de las entradasLos datos de cotización solo se montan como módulo de datos
Familia AIXX
AIXX PediaAIXX ExchangeAIXX Noticias
Fuente de datos de cotización: AIXX Exchange · © 2026 AIXX Pedia · una producción de AIXX