스펙 카드 SPEC CARD
NVIDIA RTX PRO 6000 Blackwell
96GB GDDR7 ECC, 보드 최대 메모리 용량을 자랑하는 워크스테이션 플래그십(GB202 풀 구성 24064 CUDA/600W). 단일 보드에서 LLM 로컬 구동 및 파인튜닝이 가능한 새로운 선택지로, 중고 시장 유통에서는 RTX 6000 Ada 2장 대비 메모리가 두 배인 제품
개요
NVIDIA RTX PRO 6000 Blackwell은 전문 워크스테이션 및 AI 개발 시나리오를 겨냥한 플래그십 GPU로, Blackwell 아키텍처 기반 GB202 칩에 24064개의 CUDA 코어와 752개의 5세대 Tensor Core를 온전히 활성화했다. 96GB GDDR7 ECC 메모리에 512-bit 메모리 인터페이스를 채택해, 단일 보드 기준 최대 메모리 용량을 지닌 워크스테이션급 제품 중 하나다. 대규모 모델 로컬 구동, 파인튜닝, 렌더링 등 고부하 작업을 혼자서 감당할 수 있어 워크스테이션 시장과 중고 시장 유통 모두에서 주목받고 있으며, 메모리 규모는 48GB급 전문 카드 2장의 합계에 해당한다.
핵심 스펙
| 아키텍처 | NVIDIA Blackwell (GB202, TSMC 4N 커스텀 공정, 922억 트랜지스터, 750mm², 188/192 SM 활성화) |
| 메모리 | 96GB GDDR7 with ECC (단일 카드 최대 메모리를 갖춘 전문가용 워크스테이션 GPU) |
| 메모리 대역폭 | 1792 GB/s (공식 datasheet 원문; 본문에는 1.8 TB/s로도 표기) |
| 메모리 버스 폭 | 512bit |
| 연산 성능 | FP32 125 TFLOPS (공식, Peak rates based on GPU Boost Clock) / 4000 AI TOPS (공식, 각주에 =Effective FP4 TOPS with sparsity 명시) / RT Core 380 TFLOPS |
| CUDA 코어 | 24064 (공식 datasheet 명시) / Tensor Core 752 (5세대) / RT Core 188 (4세대) |
| 소비 전력 | 600W Total board power (공식), 전원 1x PCIe CEM5 16-pin, 양방향 관통 냉각(Double-flow-through) |
| 인터커넥트 | PCIe 5.0 x16 (공식); NVLink 미지원 |
| 출시 연도 | 2025 (GTC 2025-03-18 발표, RTX PRO Blackwell 전 라인업과 동시 공개) |
| 디스플레이 출력 | 4x DisplayPort 2.1b (HDMI 없음, 전문가용 카드 기준), 최대 8K@240Hz / 16K@60Hz, 4화면 동시 출력 |
| 미디어 엔진 | 4x NVENC (9세대) + 4x NVDEC (6세대), 4:2:2 인코딩/디코딩 지원 |
| MIG | 최대 4x 24GB / 2x 48GB / 1x 96GB (MIG Multi-Instance 분할) |
| 폼팩터 | 5.4" H x 12" L (약 137 x 305mm) 듀얼 슬롯 하이프로파일, 중량 1.950 kg, XHFL; 형제 형태: Max-Q 워크스테이션 버전 300W / Server 버전 FHFL 듀얼 슬롯 10.5-inch |
| API | DirectX 12 (Shader Model 6.6) / OpenGL 4.6 / Vulkan 1.3; Compute: CUDA 11.6+ / OpenCL 3.0 / DirectCompute |
| 채널 파트넘버 | PNY: VCNRTXPRO6000B-PB / VCNRTXPRO6000B-BLK |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 단일 보드에서 대파라미터 대규모 언어 모델의 로컬 배포 및 추론, 96GB ECC 메모리로 멀티 GPU 없이도 큰 모델과 컨텍스트를 처리 가능
- 대규모 모델의 파라미터 효율 파인튜닝 및 전체 파라미터 파인튜닝 실험, 단일 보드로 메모리 의존도가 높은 학습 이터레이션 수행 가능
- 영화급 오프라인 렌더링 및 실시간 레이 트레이싱 콘텐츠 제작, 4세대 RT Core과 4중 NVENC 인코딩 엔진 활용
- 데이터센터 또는 워크스테이션 내 멀티 테넌트 GPU 분할, MIG로 단일 보드를 여러 독립 인스턴스로 나누어 서로 다른 작업에 할당
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
영상 해설 VIDEO
구매 및 검수 포인트
- 이 카드는 듀얼 슬롯 확장형(XHFL) 폼팩터로, 크기는 약 137mm 높이 × 305mm 길이에 무게는 2kg에 근접하며, 관통형 듀얼 히트싱크 설계를 채택했다. 케이스의 높이와 슬롯 호환성을 확인하고 충분한 공기 흐름을 확보해야 한다. 고소비 전력 단일 보드는 PCIe CEM5 16-pin 커넥터 1개로 전원을 공급받으므로 파워서플라이와 케이블을 사전에 맞춰야 한다
- 본 카드는 NVLink를 제공하지 않으며, 다중 카드 확장 시 VRAM 풀링이 불가능하고 PCIe 5.0 x16 인터커넥트에 의존하므로, 다중 카드 방안 계획 시 NVLink 클러스터 사고방식으로 추산하지 마십시오; 그 외 300W Max-Q 워크스테이션 버전과 Server 버전 등 형제 모델이 있으며, 구매 시 형태와 냉각 차이를 대조하여 오구매를 피해야 합니다
- 중고 검수 시 공식 시그니처 사양으로 진위를 확인한다: 96GB GDDR7 ECC, 24064 CUDA 코어, 600W급 TBP, 4개 DisplayPort 2.1b 및 HDMI 없음; Ampere 기반 RTX A6000과 Ada 기반 RTX 6000 Ada 등 이전 세대 48GB 제품과 구별하고, ECC 메모리와 전체 디스플레이 출력을 테스트한다
- 완제품 플랫폼은 PCIe 5.0을 지원하고 충분한 전원 여유와 케이스 공간을 확보해야 하며, 밀집 배포 시나리오는 Max-Q 300W 버전 또는 Server 패시브 버전을 평가하는 것이 좋습니다
자주 묻는 질문
RTX PRO 6000 Blackwell과 RTX 6000 Ada의 차이는?
두 제품은 포지션이 비슷하지만 세대가 다르다. RTX PRO 6000 Blackwell은 Blackwell 아키텍처 기반 GB202 칩에 24064개 CUDA 코어, 96GB GDDR7 ECC 메모리를 갖췄다. RTX 6000 Ada는 Ada 아키텍처의 AD102 칩 기반으로 48GB GDDR6 메모리를 사용하며 소비 전력도 눈에 띄게 낮다. 중고 시장 관점에서 보면 RTX PRO 6000 Blackwell 한 장의 메모리가 RTX 6000 Ada 두 장에 해당하지만, 후자는 듀얼 카드 구성이 가능하고 보드당 소비 전력 부담도 적다.
96GB 메모리 단일 보드로 로컬에서 어느 정도 규모의 대규모 모델까지 구동할 수 있나?
FP8 또는 INT4 같은 양자화 정밀도로 배포할 경우, 96GB ECC 메모리로 수백억~천억급 파라미터 모델을 수용하면서 넉넉한 컨텍스트와 KV 캐시 공간까지 확보할 수 있다. LoRA 등 파라미터 효율 파인튜닝에도 충분한 여유가 있다. 다만 이 카드는 NVLink를 지원하지 않으므로, 향후 추가 확장이 필요하면 메모리 풀링이 아닌 멀티 GPU 병렬 프레임워크 분할에 의존해야 한다는 점에 유의해야 한다.
RTX PRO 6000 Blackwell은 NVLink를 지원하나? 서버 컴퓨팅 카드로 쓸 수 있나?
NVLink를 지원하지 않습니다. 워크스테이션 버전(Workstation Edition)은 액티브 냉각의 듀얼 슬롯 하이프로파일 카드로 타워형 또는 워크스테이션 케이스에 적합합니다; 표준 랙 서버에 배포해야 하는 경우 같은 패밀리의 Server Edition을 선택해야 하며, 이는 FHFL 듀얼 슬롯 패시브 설계로 서버 강제 공냉에 더 의존합니다. 두 버전의 스펙은 비슷하지만 냉각과 형태는 혼용할 수 없습니다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스