SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전

AIXX 백과사전 › 기술 개념 › HBM3e 메모리

HBM3e 메모리

HIGH BANDWIDTH MEMORY 3E · 기술 개념 용어

개요OVERVIEW

HBM(고대역폭 메모리)은 DRAM 다이를 수직으로 적층하고 GPU와 초단거리 인터커넥트로 연결하는 메모리 형태다. HBM3e는 그 최신 상용 진화형이다. 해결하는 문제는 하나: 대모델 시대에 데이터가 연산 코어로 공급되는 속도가 병목이 되어서는 안 된다는 것.

AI 서버 전체 시스템에서 메모리 용량은 '얼마나 큰 모델을 올릴 수 있는가'를 직접 결정한다. B300 세대 기종에서 가장 눈에 띄는 스펙이 바로 이것 — 카드당 288GB다.

핵심 수치KEY NUMBERS

항목수치 / 기준
단일 카드 용량 (B300)288GB HBM3e
8카드 합계 (NVL8)약 2.3TB
이전 세대 H100 대비80GB(HBM3)
H200 대비141GB(HBM3e)

B300에서의 의미ON B300

모델 메모리 사용량을 추산하는 간단하지만 실용적인 공식이 있다: FP8 가중치 ≈ 파라미터 수 × 1바이트. DeepSeek R1 풀 버전은 671B 파라미터로 FP8 가중치 약 690GB — 단일 카드에는 들어가지 않지만, B300 NVL8 전체 시스템의 2.3TB 총 메모리로 단일 노드 풀 버전 배포가 가능하며 여유도 충분하다.

메모리는 시세의 분수령이기도 하다. 같은 시리즈라도 메모리 구성 차이(예: 3TB형과 4TB형)로 가격 차이가 수백만 위안 규모에 이를 수 있다.

경계와 주의점LIMITS

  • 메모리는 전체 시스템 비용에서 큰 비중을 차지하며 장기간 공급이 부족하다. 용량이 커질수록 발열과 수율 과제도 커진다.
  • 메모리 용량이 곧 성능은 아니다. 인터커넥트 대역폭, 연산력, 소프트웨어 스택도 실제 처리량을 결정한다.

영상 해설VIDEO

참고 자료REFERENCES

  1. NVIDIA 공식 사이트 — Blackwell Ultra / HGX B300 제품 페이지 https://www.nvidia.com/en-us/data-center/hgx/
  2. 시세 및 판매 데이터:AIXX 거래소(본 데이터베이스 시세 밴드)
버전 및 정정| 본 항목은 AIXX Pedia 편집부가 관리하며, AI 보조 초안 작성 후 사람이 사실을 검증했다. 업데이트: 2026-10-21 · 버전 v1.0 · 모든 변경 이력은 추적 가능하다.
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공