스펙 카드 SPEC CARD
NVIDIA GB300
Blackwell Ultra 단일 슈퍼칩 — Grace 72코어 1개 + Blackwell Ultra 듀얼 다이 GPU 2개(288GB HBM3e/GPU당 8TB/s), 슈퍼칩 기준 FP4 밀집 30 PFLOPS + 약 1TB 통합 메모리. GB300 NVL72 랙 항목(1.1~1.3억 원대 앵커 장비)의 최소 연산 유닛이자 HGX B300 8카드 머신의 칩 본체. B200 세대 대비: 밀집 FP4 1.5배/메모리 +50%/소비전력 1200→1400W, 대가로 INT8과 FP64는 대폭 축소(순수 추론 팩토리 지향). 2025년 하반기 출하, 2026년부터 현물 유통에 진입하는 Ultra 세대. 중고/현물 문의는 슈퍼칩 기준으로 본 카드와 정렬|기준: 단일 슈퍼칩 = Grace CPU 1개 + Blackwell Ultra GPU 패키지 2개, GB300 NVL72 랙 전체 및 HGX B300 8카드 보드와는 구분
개요
GB300은 NVIDIA의 Blackwell Ultra 아키텍처 기반 슈퍼칩으로, Grace CPU 1개와 Blackwell Ultra GPU 2개 패키지로 구성된다. 각 GPU는 160개 SM과 640개 5세대 Tensor Core를 통합했으며, TSMC 4NP 공정과 2,080억 개 트랜지스터 규모, 288GB HBM3e 메모리를 갖추고 슈퍼칩 합산 576GB, LPDDR5X를 통해 약 1TB 통합 메모리 구성도 가능하다. NVFP4 정밀도 기준 단일 슈퍼칩 밀집 연산력은 30 PFLOPS, 희소 40 PFLOPS이며 GPU당 TGP은 최대 1400W다. GB300 NVL72 랙 전체와 HGX B300 8카드 보드 레벨 시스템의 칩 본체로, 대규모 AI 추론 중심의 컴퓨팅 인프라에 포지셔닝된다.
핵심 스펙
| 아키텍처 | NVIDIA Blackwell Ultra(GB300 슈퍼칩 = Grace CPU 1개 + Blackwell Ultra GPU 2개, 공식 개발자 블로그 직접 인용 'couples one Grace CPU with two Blackwell Ultra GPUs'; 각 Blackwell Ultra GPU는 TSMC 4NP 공정/2,080억 트랜지스터/듀얼 다이 2.5D 패키징, 개발자 블로그 직접 인용 'TSMC 4NP and features 208B transistors'+'Dies per GPU: 2'; 랙 = 슈퍼칩 36개 즉 GPU 72개 + CPU 36개, 공식 페이지 직접 인증) |
| 메모리 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) |
| 메모리 타입 | HBM3e(GPU 측)+LPDDR5X(Grace CPU 측), 공식 페이지 직접 인증 |
| 메모리 버스 폭 | 미수록(공식 현행 페이지/블로그/보도자료 어디에도 Blackwell Ultra 메모리 버스 폭은 별도 기재 없음, 없는 것은 지어내지 않음) |
| 메모리 대역폭 | 8TB/s GPU당(공식 개발자 블로그 직접 인용 '8 TB/s per GPU'; 랙 'Up to 576 TB/s'÷72=8TB/s 상호 검증); 슈퍼칩 듀얼 GPU 합산 16TB/s(추론) |
| 연산 성능 | 단일 슈퍼칩 기준(주값): FP4(NVFP4) TC 40 PFLOPS 희소 | 30 PFLOPS 밀집(공식 개발자 블로그 직접 인용 'up to 30 PFLOPS dense, and 40 PFLOPS sparse'; 랙 1440|1080÷36과 완전히 상호 검증). 단일 GPU 기준: FP4 20 희소 | 15 밀집(랙÷72; 블로그 밀집 15 직접 인용 'Ultra pushes that to 15 petaFLOPS'); FP8/FP6 TC 10 희소 | 5 밀집(블로그 직접 인용 '5 | 10 PetaFLOPS'+랙 720÷72 상호 검증); INT8 TC 약 333 TOPS 희소(랙 24 POPS÷72; HGX 보드 3 POPS÷8=375, B200 단일 카드 9000 TOPS 대비 세대적 대폭 삭감); FP16/BF16 TC 5 희소 | 2.5 밀집(랙 360÷72; HGX 보드 36÷8=4.5); TF32 TC 2.5 희소(랙 180÷72; HGX 18÷8=2.25); FP32 약 83 TFLOPS(랙 6 PFLOPS÷72; HGX 600÷8=75); FP64/FP64 TC 약 1.39 TFLOPS(랙 100 TFLOPS÷72; HGX 10÷8=1.25, B200 단일 카드 37 대비 약 30배 삭감 — Ultra는 연산력을 FP4 밀집에 양보). HGX B300 보드 8카드 기준: FP4 144|108 · FP8 72 · INT8 3 POPS · FP16 36 · TF32 18 · FP32 600 TFLOPS · FP64 10 TFLOPS |
| 소비 전력 | TGP 최대 1400W |
| 인터커넥트 | NVLink 5세대 GPU당 양방향 1.8TB/s(공식 개발자 블로그 직접 인용 '1.8 TB/s bidirectional (18 links x 100 GB/s)'+HGX B300 열 'GPU-to-GPU 1.8 TB/s' 직접 인증; 랙 130TB/s÷72≈1.81 상호 검증); 슈퍼칩 내 2개 GPU는 NVLink로 연결되고 NVLink 도메인이 랙 내 72개 GPU 풀 인터커넥트까지 확장; 네트워크: ConnectX-8 SuperNIC GPU당 800Gb/s |
| 출시 연도 | 2025(2025-03-18 GTC 발표, 공식 보도자료 직접 인증; 'second half of 2025' 출하 문구 공식 원문 직접 인증; 공식 HGX 페이지 각주 및 랙 페이지 'Available Now'로 현물 세대 확인) |
| CPU 부분 | Grace CPU 슈퍼칩당 1개, Arm Neoverse V2 코어 72개(랙 공식 페이지 '2,592 Arm Neoverse V2 cores'÷36개 직접 추산, 단일 칩 원문은 공식 미공개); CPU 메모리 LPDDR5X 개당 약 480GB(랙 17TB÷36=472GB 추산), 대역폭 14TB/s; GPU+CPU 합산 약 1TB 통합 메모리(개발자 블로그 직접 인용 표현) |
| SM 및 CUDA 코어 | 단일 Blackwell Ultra GPU: 160 SM/640개 5세대 Tensor Core(공식 개발자 블로그 직접 인용 '160 Streaming Multiprocessors (SMs) across two dies, providing 640 fifth-generation Tensor Cores'); CUDA 코어 20,480개(160 SM × SM당 128코어, 블로그 두 요소 직접 인증, 곱은 추산; 초기 Blackwell 대비 160 vs 144 SM로 +11%) |
| L2 캐시 | 미수록(공식 현행 신뢰 출처에 Blackwell Ultra L2 용량 별도 기재 없음, 없는 것은 지어내지 않음) |
| 기밀 컴퓨팅 | 미수록(이번 검증 출처에서 Blackwell Ultra 기밀 컴퓨팅 항목에 도달하지 못함, 없는 것은 지어내지 않음; Blackwell 세대의 기밀 컴퓨팅 지원은 B200 카드에서 이미 확인됨, 상세 항목에서 별도 확인 요망) |
| 코덱 | 미수록 |
| MIG 슬라이싱 | 미수록 |
| 폼팩터 | 슈퍼칩(GB300 Grace Blackwell Ultra Superchip) — 배포 형태: GB300 NVL72 랙 36개 슈퍼칩 풀 수랭 단일 랙(공식 페이지 'fully liquid-cooled, rack-scale' 직접 인증, 즉 목록의 1.1~1.3억 원대 앵커 장비의 최소 연산 유닛)/HGX B300 NVL16 8카드 보드 레벨(공랭 또는 수랭, OEM 완제품 출하 형태)/DGX B300 8카드 완제품 14.5kW; 이 외에 GB300 데스크톱 슈퍼칩 변형 존재(Grace 1개 + Blackwell Ultra 1개, DGX Station 기준, 참고용으로만 기재하고 본 카드에 혼입하지 않음) |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 대규모 FP4 저정밀도 추론 클러스터: 밀집 FP4 연산력이 전 세대 대비 크게 향상되고 메모리 용량이 50% 증가해, 대형 모델 배치 온라인 추론과 고동시 토큰 서비스에 적합
- GB300 NVL72류 랙 규모 추론 팩토리: 랙 내 36개 슈퍼칩 중 하나로서 고대역폭 인터커넥트로 협업하며, 랙 전체를 단일 초대형 GPU처럼 구동
- HGX B300 8카드 보드 레벨 서버 배포: 데이터센터 OEM 완제품 형태 대상, 저전력 보드 레벨 SKU는 표준 공랭 또는 수랭 머신룸의 점진적 확장에 적합
- 학습 보조·추론 중심의 혼합 워크로드: FP8/FP6과 FP16/BF16도 상당한 연산력을 유지해, 중규모 모델 파인튜닝과 정렬 학습을 수행 가능
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
| NVIDIA RTX PRO 6000 Blackwell 비교 | 96GB GDDR7 with ECC (단일 카드 최대 메모리를 갖춘 전문가용 워크스테이션 GPU) | 600W Total board power (공식), 전원 1x PCIe CEM5 16-pin, 양방향 관통 냉각(Double-flow-through) |
영상 해설 VIDEO
구매 및 검수 포인트
- GPU당 TGP은 최대 1400W에 달하며, 풀 성능 프로파일은 주로 랙 규모 풀 수랭 환경에서 구동된다. 슈퍼칩 8개가 풀 로드에 도달하면 단일 노드 전력 수요가 수십 kW급에 이르므로, 구매 전 머신룸 전력 용량, 수랭 배관과 랙 내하중을 반드시 확인해야 하며 전 세대 전력 기준으로 계획해서는 안 된다
- 문의 전 기준 정렬 필수: 동일한 B300이라도 단일 슈퍼칩(FP4 밀집 30 PFLOPS), 단일 GPU(15 PFLOPS 밀집), HGX 보드 GPU당(약 13.5 PFLOPS 밀집) 세 가지 연산력 기준이 존재하며, 랙 버전과 보드 버전은 서로 다른 전력 프로파일 SKU다. 현물 및 중고 시장 유통에서는 반드시 슈퍼칩 기준으로 견적서를 대조하고, 단일 GPU 수치로 전체 기기를 대변하는 행위를 경계해야 한다
- 세대적 트레이드오프 숙지: Blackwell Ultra는 Tensor Core 면적을 FP4 밀집 연산력에 양보하여, INT8과 FP64 연산력이 전 세대 대비 대폭 축소되었다. 전통적 HPC, 과학 계산 또는 INT8 양자화 배포에 의존하는 고객은 소프트웨어 스택 호환성을 먼저 검증하고, 이 세대 제품이 자신의 워크로드 특성에 부합하는지 확인해야 한다
자주 묻는 질문
GB300 슈퍼칩과 GB300 NVL72는 어떤 관계인가? 완제품을 사야 하나 칩을 사야 하나?
GB300 슈퍼칩은 최소 연산 유닛으로, Grace CPU 1개와 Blackwell Ultra GPU 2개 패키지로 구성된다. GB300 NVL72 랙 전체는 GPU 72개와 Grace CPU 36개, 즉 36개 슈퍼칩이 NVLink 인터커넥트로 협업하는 구성이다. HGX B300은 Blackwell Ultra GPU 8개의 보드 레벨 모듈로, 상대적으로 낮은 전력 프로파일의 SKU에 속한다. 최종 사용자는 보통 완제품이나 보드 레벨 서버를 구매하며, 슈퍼칩 본체는 단독으로 유통되지 않는 것이 일반적이므로 문의 시 반드시 먼저 기준을 정렬해야 한다.
GB300은 B200 대비 메모리와 연산력이 얼마나 향상되었나? 대가는 무엇인가?
공식 기준으로 Blackwell Ultra는 NVFP4 밀집 연산력을 기존 10 PFLOPS(단일 GPU)에서 15 PFLOPS로 끌어올렸고, 메모리 용량은 288GB로 H100 대비 수배 증가했으며, GPU당 TGP 상한도 1200W에서 1400W로 올랐다. 대가로 Tensor Core 면적이 FP4에 치우쳐 INT8과 FP64 연산력이 전 세대 대비 대폭 축소되었고, 보드 기준으로는 수십 배 감소했다. 따라서 이 세대는 순수 추론과 저정밀도 워크로드에 뚜렷하게 기울어져 있다.
GB300은 FP64 과학 계산이나 INT8 추론에 적합한가?
주력으로는 부적합하다. 공식 사양상 HGX B300 보드의 INT8은 3 POPS, FP64는 10 TFLOPS에 불과해, 전 세대 HGX B200(INT8 72 POPS, FP64 296 TFLOPS) 대비 자릿수 단위의 축소다. 업무가 전통적 배정밀도 HPC 시뮬레이션이나 INT8 양자화 추론이 핵심이라면 전 세대 제품 또는 CPU/GPU 하이브리드 방안을 검토할 것을 권한다. GB300의 가치는 FP4/FP8 저정밀도 대규모 추론 시나리오에 집중되어 있다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스