SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전

AIXX 백과사전 › 기술 개념 › MoE 혼합 전문가

MoE 혼합 전문가

MIXTURE OF EXPERTS · 기술 개념 용어

개요OVERVIEW

MoE(Mixture of Experts)는 '희소 활성화' 기반의 대규모 모델 아키텍처다. 전체 파라미터 수는 크지만, 추론 시에는 그중 일부 '전문가' 네트워크만 활성화한다.

대표적으로 DeepSeek R1을 보면: 전체 파라미터는 671B이지만 추론 시 약 37B만 활성화한다. 즉, 용량과 연산 비용이 분리되는 셈이다.

핵심 수치KEY NUMBERS

항목수치 / 기준
전체 파라미터 예시DeepSeek R1 671B
회당 활성화약 37B
메모리 의미전체 파라미터는 여전히 GPU에 상주해야 함
B300 NVL8 비교총 2.3TB 메모리로 단일 서버 풀 버전 배포 가능

B300에서의 의미ON B300

MoE의 메모리 요구량은 활성화 파라미터가 아닌 전체 파라미터 기준으로 계산된다. 이것이 B300 같은 대용량 메모리 기기의 핵심 가치가 발휘되는 시나리오다.

추론 처리량의 병목은 종종 전문가 병렬화의 통신에서 발생하므로, 상호연결과 네트워크 구성도 똑같이 중요하다.

경계와 주의점LIMITS

  • 전체 파라미터를 메모리에 모두 적재해야 하며, 용량이 부족하면 양자화하거나 잘라내는 수밖에 없다.
  • 전문가 간 부하 분산은 엔지니어링 난제로, 실제 효율은 프레임워크와 구성에 따라 크게 달라진다.

영상 해설VIDEO

참고 자료REFERENCES

  1. NVIDIA 공식 사이트 — Blackwell Ultra / HGX B300 제품 페이지 https://www.nvidia.com/en-us/data-center/hgx/
  2. 시세 및 판매 데이터:AIXX 거래소(본 데이터베이스 시세 밴드)
버전 및 정정| 본 항목은 AIXX Pedia 편집부가 관리하며, AI 보조 초안 작성 후 사람이 사실을 검증했다. 업데이트: 2026-10-21 · 버전 v1.0 · 모든 변경 이력은 추적 가능하다.
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공