스펙 카드 SPEC CARD
NVIDIA B300 (Blackwell Ultra GPU)
단일 B300 = Blackwell Ultra GPU 본체, 즉 HGX B300 NVL16 8카드 보드의 각 칩: 288GB HBM3e 단일 패키지(B200 대비 1.5x 발표 기준/1.6x HGX 현행), GPU 1개당 풀스펙 기준 FP4 20 스파스|15 덴시 PFLOPS(덴시 기준 B200 대비 +50%), TGP 1400W, NVLink 1.8TB/s, PCIe Gen6; 대가로 INT8은 1/24, FP64는 1/30로 축소 — 순수 AI 추론 팩토리 지향의 단일 카드. 2025-03-18 GTC 발표, 2025년 하반기 출하, 2026년 현물 유통 세대, 중고/현물 문의는 카드당 288GB HBM3e 기준으로 본 항목에 맞춤; Grace CPU 포함 슈퍼칩 규격은 GB300 카드 항목, 8카드 보드 레벨 시스템은 HGX B300 NVL16 항목으로 분류
개요
NVIDIA B300은 Blackwell Ultra 아키텍처 기반 데이터센터 GPU로, 단일 패키지에 두 개의 다이를 통합한 설계이며 TSMC 4NP 공정, 약 208B 트랜지스터, 160개 SM과 640개 5세대 Tensor Core를 탑재했다. 메모리는 288GB HBM3e, 총 비트폭 8192-bit이며, 풀스펙 구성에서 FP4 연산 성능은 스파스 20, 덴시 15 PFLOPS로 덴시 기준 이전 세대 Blackwell 대비 약 50% 향상됐다. 인터커넥트는 NVLink를 채택, 단방향 링크 18개로 구성되고 GPU 간 양방향 대역폭은 1.8TB/s에 달하며 PCIe Gen6를 지원한다. TGP는 최대 1400W로, 대규모 FP4 AI 추론 및 훈련 클러스터를 겨냥하며 HGX B300 NVL16 8카드 보드와 GB300 슈퍼칩의 핵심 연산 유닛이다.
핵심 스펙
| 아키텍처 | NVIDIA Blackwell Ultra(Blackwell 아키텍처 Ultra 세대, Grace CPU 미포함 순수 GPU 본체) — B300 단일 칩은 TSMC 4NP 공정/2,080억 트랜지스터/듀얼 die 통합 단일 GPU(공식 블로그 직접 인용 'TSMC 4NP and features 208B transistors'+'Dies per GPU: 2'); GPU당 최대 160개 SM이 8개 GPC로 구성, 640개 5세대 Tensor Core(블로그 직접 인용); 어텐션 엔진 10.7 TeraExponentials/s, 공식 발표 기준 Blackwell 대비 '2x higher attention performance'(블로그 Table 2+NVL72 페이지 직접 인용) |
| 메모리 | 단일 패키지 288GB HBM3e(주요 값: 공식 블로그 Table 2 '288 GB HBM3E' 직접 인용+DGX B300 사용자 가이드 '8 x 288 GB = 2.3 TB total' 직접 인용); B200 대비 두 가지 기준 공존 — 발표 기준 192GB 대비 1.5x(블로그 Table 2 병기 '192 GB|288 GB'+NVL72 페이지 '1.5x larger HBM3E' 직접 인용), HGX 현행 180GB 대비 1.6x(Lenovo 인용문 '288 GB...compared with 180 GB on the B200'); HGX B300 보드 레벨 합계 2.1TB; 가용 용량 기준 279GB(데이터시트 검색 발췌)/268GB 참고 수준 주기 |
| 메모리 타입 | HBM3e(12-Hi 스택; 공식 블로그 9/24/25 수정 주기 'proper 12 HBM stacks instead of 8' — 본문에 남아 있는 'Eight 12-Hi stacks'는 알려진 불일치, 288GB=12x24GB/스택 기준으로 수정 후 12스택 채택) |
| 메모리 버스 폭 | 8,192bit(공식 블로그 HBM 구성 원문 '16 × 512-bit controllers (8,192-bit total width)' 직접 인용) |
| 메모리 대역폭 | 8TB/s GPU당(공식 블로그 직접 인용 '8 TB/s per GPU, 2.4x improvement over H100'; 랙 576TB/s÷72=8TB/s 교차 검증) |
| 연산 성능 | GPU 단일 풀스펙 기준(주요 값): FP4(NVFP4) TC 20 PFLOPS 스파스|15 PFLOPS 덴시(공식 블로그 Table 2 '15 | 20 PetaFLOPS' 직접 인용+랙 1440|1080÷72 교차 검증; 덴시 기준 Blackwell 10 대비 1.5x, 스파스 20은 동률); FP8/FP6 TC 10 스파스|5 덴시(블로그 '5 | 10 PetaFLOPS' 직접 인용); INT8 TC 약 375 TOPS 스파스(HGX 보드 레벨 3 POPS÷8, B200 단일 카드 9000 TOPS 대비 세대 축소 24배); FP16/BF16 TC 4.5 스파스|2.25 덴시(HGX 36÷8); TF32 TC 2.25 스파스(HGX 18÷8); FP32 75 TFLOPS(HGX 600÷8); FP64/FP64 TC 1.25 TFLOPS(HGX 10÷8, B200 37 대비 약 30배 축소 — Ultra는 Tensor Core 면적을 FP4 덴시에 양보). HGX B300 보드 레벨 저전력 등급 GPU당: FP4 18|13.5(144|108÷8 공식 직접 인용), 풀스펙 등급과 혼용 금지 |
| 소비 전력 | TGP 최대 1400W(공식 블로그 Table 2 직접 인용 'Max power (TGP): Up to 1,400W', Blackwell 1200W/Hopper 700W 대비); HGX B300은 저전력 보드 레벨 SKU로 약 1100W 배치 등급 별도 존재(IntuitionLabs/Lenovo SR680a V4 검색 인용 수준, 공식 단일 카드 직접 인용 아님, 참고용 주기에 한함); DGX B300 8카드 시스템 14.5kW |
| 인터커넥트 | NVLink 5세대 1.8TB/s 양방향 GPU당(공식 블로그 직접 인용 '1.8 TB/s bidirectional (18 links x 100 GB/s)'+HGX 페이지 'GPU-to-GPU 1.8 TB/s' 직접 인용); HGX B300 8카드 풀 인터커넥트 합계 14.4TB/s, 듀얼 보드 브리징으로 NVL16 도메인 구성; PCIe Gen6 x16 양방향 256GB/s(블로그 Table 1 '256 (Gen 6)' 직접 인용, Hopper Gen5 128GB/s 대비 2배); 네트워크 측면 HGX B300은 1.6TB/s, DGX B300은 ConnectX-8 GPU당 800Gb/s 탑재 |
| 출시 연도 | 2025(2025-03-18 GTC 발표, 공식 보도자료 직접 인용; 'expected to be available from partners starting from the second half of 2025' 출하 시기 공식 원문 직접 인용; 공식 HGX 페이지 각주 'shipping now'+NVL72 페이지 'Available Now'로 현물 유통 세대 확인) |
| SM 및 CUDA 코어 | 최대 160 SM/640개 5세대 Tensor Core(공식 블로그 직접 인용 '160 Streaming Multiprocessors (SMs) across two dies, providing 640 fifth-generation Tensor Cores', 각주 'up to 160 SMs'); SM당 128 CUDA 코어+4 Tensor Core+256KB TMEM(블로그 직접 인용); CUDA 코어 합계 20,480개(160x128 곱셈으로 도출); SM 수는 초대 Blackwell 144 대비 +11%, Hopper 132 대비 +21% |
| L2 캐시 | 미수록 |
| 기밀 컴퓨팅 | 미수록(이번 B300 검증에서 기밀 컴퓨팅 항목 관련 출처 미확보, 공백이 지어내기를 우선; Blackwell 세대 기밀 컴퓨팅은 B200 카드 GTC 2024 보도자료에서 직접 인증됨, 상세 항목에서 별도 검증 요망) |
| 코덱 | 미수록(공식 현행 출처에서 B300 코덱 수량 항목 미확인, 공백이 지어내기를 우선) |
| MIG 슬라이싱 | 미수록 |
| 폼팩터 | SXM 모듈(Blackwell Ultra SXM, 공식 HGX 페이지 Form Factor 직접 인용) — 배치 형태: HGX B300 NVL16 8카드 보드 레벨(공랭/수랭, OEM 시스템 제조사 출하 형태; 본 카드의 소속 위치)/DGX B300 8카드 시스템 14.5kW/GB300 NVL72 랙 72카드 풀 수랭(순수 GPU 관점; Grace CPU 포함 슈퍼칩 규격은 GB300 카드 항목으로 분류) |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 초대규모 LLM 추론 서비스: 카드당 288GB HBM3e 용량으로 긴 컨텍스트·대규모 파라미터 모델의 추론 배포에 적합하며, FP4 NVFP4가 풀스펙 연산 등급, 어텐션 성능은 공식 발표 기준 이전 세대 Blackwell 대비 2배
- 대형 모델 훈련 및 후속 훈련(SFT/RLHF): 카드당 FP8 덴시 10 PFLOPS의 연산 성능과 NVLink 1.8TB/s 양방향 인터커넥트를 바탕으로, 다중 노드·다중 GPU 확장형 훈련 클러스터에 적합
- HGX B300 NVL16 8카드 보드 레벨 시스템 배치: 단일 카드는 8카드 SXM 보드의 표준 구성 유닛이며, 보드 탑재 총 2.1TB 메모리 규격과 대응, 랙 레벨 AI 팩토리 구축 지향
- GB300 NVL72 랙 및 DGX B300 시스템 구성: Grace CPU 포함 슈퍼칩과 8카드 시스템의 하위 GPU 컴포넌트로서, 엔드투엔드 AI 인프라 조달 및 연산 산정에 활용
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
영상 해설 VIDEO
구매 및 검수 포인트
- 전력 및 전원: 본 카드 TGP 최대 1400W로 이전 세대 Blackwell의 1200W, Hopper의 700W를 크게 상회; 8카드 DGX B300 시스템 소비 전력은 14.5kW에 달하고 3.2kW 전원 12개를 탑재하므로, 서버룸은 랙 전원 이중화와 수랭 냉각 능력을 사전에 산출해야 함; 이 외에 약 1100W의 HGX 저전력 배치 등급 SKU가 존재하며, 견적 문의 시 전력 등급 확인 필수
- 연산 등급 검증: 동일한 B300에 풀스펙 등급(FP4 스파스 20, 덴시 15 PFLOPS)과 HGX 보드 레벨 저전력 등급(GPU당 FP4 스파스 18, 덴시 13.5 PFLOPS) 두 가지가 존재하므로, 계약서와 검수서에 구매 SKU의 연산 등급과 전력 등급을 명확히 표기해 보드 레벨 규격과 단일 카드 풀스펙 규격의 혼동을 방지해야 함
- 메모리 및 인터커넥트 검수: 현물/중고는 카드당 288GB HBM3e 물리 용량 기준으로 정렬(HGX 보드 레벨에는 별도로 총량 2.1TB의 보수적 기준 존재), 가용 용량이 물리 용량보다 낮은 것은 정상; NVLink 1.8TB/s 양방향 인터커넥트 검증에는 8카드 SXM 형태와 전용 베이스보드가 필요하며, 비 SXM 버전은 해당 인터커넥트 대역폭을 확보할 수 없음; PCIe는 Gen6 인터페이스로 메인보드와 스위치 정합성 필요
- 조달 경계 명확화: Grace CPU 포함 슈퍼칩은 GB300 카드 규격, 8카드 보드 레벨 시스템은 HGX B300 NVL16 규격에 속하며, 단일 GPU만 견적 문의 시 상대방 제시가에 해당하는 물리 형태를 명확히 확인해 규격 불일치를 방지해야 함
- 아키텍처 트레이드오프 숙지: 이번 세대는 INT8 연산 성능이 이전 세대 보드 레벨 대비 크게 축소(72→3 POPS)되었고 FP64도 보드 레벨 기준 10 TFLOPS로 하락했으므로, 기존 워크로드가 INT8 양자화 스택 또는 FP64 HPC 연산에 의존한다면 호환성 평가 후 조달해야 함
자주 묻는 질문
B300의 288GB 메모리는 카드당 용량인가요? HGX B300 보드 레벨의 2.1TB와 무슨 차이인가요?
288GB는 단일 B300 GPU 패키지 내 HBM3e 물리 용량으로, 12-Hi HBM 스택 12개로 구성됩니다. HGX B300 NVL16 8카드 보드의 Total Memory 표기 2.1TB는 보드 레벨 총량으로 약 262GB/카드의 보수적 기준으로 계산된 것이며, 8×288GB=2.3TB(DGX B300 기준)와 소폭 차이가 존재합니다; 실제 가용 용량은 물리 용량보다 더 낮습니다. 조달 비교 시 카드당 물리 용량, 보드 레벨 표기 용량, 가용 용량 세 가지 기준을 구분해야 합니다.
B300이 B200 대비 개선된 점은 무엇인가요? FP4 연산 성능은 2배인가요?
2배가 아닙니다. 공식 기준으로 B300의 덴시 FP4 연산 성능은 15 PFLOPS로 B200의 10 PFLOPS 대비 50% 향상이며, 스파스 FP4는 양쪽 모두 20 PFLOPS로 동률입니다. 메모리 측면에서 288GB는 B200 발표 기준 192GB의 1.5배입니다. 공식 발표의 '2배'는 FP4 총 연산 성능이 아니라 어텐션(attention) 성능을 의미합니다. 또한 B300의 INT8 및 FP64 연산 성능이 B200 대비 크게 축소된 점에 유의해야 하며, 이는 Blackwell Ultra가 Tensor Core 자원을 FP4에 우배치한 설계 트레이드오프입니다.
B300 서버 구매 시 주의할 점은? 풀스펙 등급과 저전력 등급은 어떻게 구분하나요?
주로 세 가지를 확인해야 합니다. 첫째 전력과 냉각으로, 카드당 TGP 최대 1400W, DGX B300 같은 8카드 시스템은 14.5kW에 달해 통상 수랭 랙과 상응하는 전원 이중화가 필요하며 서버룸 리모델링은 사전 평가가 선행되어야 합니다. 둘째 SKU 등급으로, NVL72/DGX 구성은 풀스펙 등급 FP4 스파스 20, 덴시 15 PFLOPS에 대응하고 HGX B300 보드 레벨에는 GPU당 FP4 스파스 18, 덴시 13.5 PFLOPS의 저전력 등급이 존재하므로 계약서에 명시해야 합니다. 셋째 형태로, NVLink 1.8TB/s 인터커넥트는 SXM 형태와 전용 베이스보드를 요구하며, Grace CPU 포함 통합 시스템은 GB300 규격으로 단일 카드 B300과는 별개의 조달 대상입니다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스