AIXX 백과사전 › 랙 항목 › GB200 NVL72

GB200 NVL72NVIDIA의랙급 슈퍼칩 시스템: 한 랙 안에 72개 Blackwell GPU + 36개 Grace CPU를 수용하고 전면 수랭 냉각으로, 72개 GPU가 5세대 NVLink로단일 도메인 풀 인터커넥트를 구성합니다(카드당 1.8TB/s, 집계 30.4TB/s). 외부로는 최대 1.44 EF FP4 추론/학습 연산 성능 기준(공식 제품 페이지 및 Supermicro 시스템 문서 기준[1][2]).
이 제품은 '한 대의 서버'라는 정의를 랙 단위로 확장했습니다: 컴퓨팅 트레이(트레이당 4×B200+2×Grace)와 NVLink 스위치 트레이(랙당 9대)가 랙 내 구리 인터커넥트로 풀 대역폭 논블로킹 연결을 제공하며, 학습과 추론이 마치 하나의 거대한 카드를 쓰는 것처럼 동작합니다(GTC 2024-03 발표 기준[3]). 2025년 글로벌 AI 인프라 구축의 주력 랙이 바로 이 제품으로, 배포량, 화제성, 중고 예상 가치 모두 NVL72 패밀리 중 1위입니다.
2026년 현물 시장에서 GB200 NVL72의 유통 형태는풀랙과 분할 유통이 병존합니다. 프로젝트 단위 풀랙 납품이 주를 이루며, 컴퓨트 트레이/스위치 트레이 단위의 유통도 있습니다. 조달은 무거운 엔지니어링 작업입니다. 수랭 1차/2차 루프, 전력, 크레인 상차, 소프트웨어 스택(NVLink 도메인 헬스)까지 항목별 검증이 필요합니다. 본 항목은 시세를 다루지 않습니다 — 랙 가격은 판매자 실제 제시가 기준입니다.
AIXX Index(0–100): 본 라이브러리는 공개 사양 기준 가중 추정 — 연산 40% + 인터커넥트 30% + 배포 난이도 30%. 90+ 플래그십급 · 75+ 우수 · 60+ 사용 가능 · 60 미만 부적합.
2024년 3월NVIDIA가 GTC에서 Blackwell 플랫폼과 GB200 NVL72Grace Blackwell 슈퍼칩(2×B200+1×Grace)을 기반으로 랙 단위 NVLink 풀 인터커넥트가 등장하며 '72장이 한 장의 카드'라는 서사는 AI 인프라의 판도를 바꾸었습니다(NVIDIA 공식 페이지 및 GTC 발표 기준[1][3]).
2024-2025년대규모 배포기: 북미 대형 클라우드 사업자에 첫 랙이 상설되고, 2025년 글로벌 물량이 본격 출하되었습니다. NVL72 패밀리 물량 확대와 함께 수랭 도입률도 빠르게 상승했습니다(업계 기준: AI 데이터센터 수랭 도입률 2025년 30% 초과 예측, TrendForce 공개 보고서 기준[4]). 공급망에서는 콜드플레이트, CDU, 매니폴, 퀵커플링 4개 부문이 동반 성장했습니다(수랭 관련 자세한 내용은 본 백과의 수랭 CDU 항목 참조).
2025년, 세대 교체: GB300 NVL72(Blackwell Ultra, 72×B300)가 공개되고 납품이 시작되면서, GB200 NVL72는 신제품에서 기존 배포와 중고 예상 가치가 병행되는 단계로 넘어갔습니다 — 두 세대의 랙이 2026년 시장에서 병행 유통 중입니다(GB300은 해당 항목 참조).
2026년, 현물 포지셔닝: GB200 NVL72는 풀랙/분할 두 가지 형태로 유통 시야에 들어옵니다. 랙급 장비의 국경 간 유통 정책은 여전히 진화 중이므로, 조달 시에는 주관 부처 정책과 전문가 의견을 기준으로 해야 합니다(공개 보도 기준, 법률 자문을 구성하지 않음).
| 항목 | 사양 (GB200 NVL72 · 공식 기준) |
|---|---|
| GPU | 72× NVIDIA Blackwell (B200 슈퍼칩 다이) |
| CPU | 36× NVIDIA Grace (72코어 Armv9) |
| GPU 메모리 | 최대 13.4TB HBM3E (전 랙 합산) |
| CPU 메모리 | 최대 17TB LPDDR5X (ECC) |
| 연산 성능 | 최대 1.44 EF FP4 (전 랙, 공식 기준) |
| 인터커넥트 | NVLink 5.0 · 카드당 1.8TB/s · 72-GPU 단일 도메인 · 집계 130TB/s (공식 페이지 기준) |
| 컴퓨트 트레이 | 트레이당 4×B200 + 2×Grace, 랙당 18 트레이(Supermicro 시스템 문서 기준[2]) |
| 스위치 트레이 | NVLink 스위치 트레이 × 9/랙 (구리 인터커넥트 전폭 논블로킹) |
| 냉각 | 랙급 수랭 (콜드플레이트+CDU 루프, 수랭 CDU 항목 참조) |
| 출시 | 2024년 3월 (GTC, Blackwell 플랫폼) |
사양은 NVIDIA 공식 제품 페이지 기준(2026-10 기준)[1]; 시스템 전체 소비 전력 및 전원 공급 세부 내역은 시스템 제조사(ODM/OEM) 구성 기준이며, 본 표에 없는 항목=미검증으로 추측하지 않습니다.
| 항목 | GB200 NVL72 | GB300 NVL72 |
|---|---|---|
| GPU | 72× B200(Blackwell) | 72× B300(Blackwell Ultra) |
| 보드당 메모리 | 192GB HBM3E급 | 288GB HBM3E |
| 네트워크 | ConnectX-7 세대 | ConnectX-8 세대 (800G) |
| 포지셔닝 | 기존 배포 주력 | 판매 중 신규 랙 주력 |
| 선택 한 줄 요약 | 기존 재고 가치 | 신규 구매 플래그십 |
GB300 라인은 GB300 NVL72 항목 참조[1]; 두 세대 랙의 수랭 아키텍처는 동일한 계보입니다(CDU 회로 기준은 수랭 CDU 항목 참조).
GB 시리즈 랙은 세대와 형태별로 등급이 나뉩니다. GB200 NVL72는 Blackwell 세대 랙이며, 패밀리 구성원은 다음과 같습니다:
GB200 NVL72는풀 수랭 랙입니다. 콜드플레이트가 GPU/CPU/NVLink 스위치 칩 전체에 부착되고, 랙 내 2차 루프가 CDU(냉각수 배분 장치)를 통해 기계실 1차 냉각수와 열교환합니다 — 수랭 루프가 배포의 첫 번째 관문입니다: 1차측 급수 온도/유량/수질, 2차측 퀵커플링과 매니폴드, CDU의 N+1 이중화를 솔루션별로 항목별 검증해야 합니다(본 라이브러리 수랭 CDU 항목 참조). 수랭 개조 비용과 기계실 조건이 NVL72 구축의 진짜 관문입니다 — 공랭 기계실에 바로 랙을 설치하는 것은 불가능합니다.
전력 공급과 상차는 또 다른 두 관문입니다. 풀랙 전력 밀도는 기존 공랭 랙을 크게 상회하며(시스템 제조사 구성 기준 전력과 버스바 재확인), 랙 무게와 운송 상차를 위해 바닥 하중과 경로를 사전에 계획해야 합니다. 소프트웨어 측면에서 NVLink 도메인 헬스(NVLink 스위치 트레이+구리 케이블 백플레인)는 입고 검수의 핵심입니다 — 구리 케이블 하나의 이상이 72카드 인터커넥트 도메인 전체에 악영향을 줄 수 있습니다(본 라이브러리 정리 기준).
| 워크로드 | GB200 NVL72의 성능 기준 | AIXX Index |
|---|---|---|
| 조 단위 파라미터 MoE 학습 | 72-GPU 단일 도메인 + 전 랙 13.4TB HBM3E, 전문가 병렬화는 랙 간 이동 불필요 | 95 |
| 대형 모델 온라인 추론 | FP4 1.44 EF + NVLink 도메인 내 메모리 공유, 배치 동시 처리량 플래그십 | 93 |
| 비디오/멀티모달 생성 | FP4/FP8 추론 파이프라인이 NVLink 도메인 대역폭을 최대한 활용 | 88 |
| 기존 FP64 HPC | Blackwell의 주력이 아님 — 배정밀도 중심 워크로드는 Hopper 세대 또는 CPU 클러스터 검토 | 70 |
워크로드 등급은 본 라이브러리의 공개 사양 기반 정리입니다(추정 기준, 성능 보증을 구성하지 않음).

실사 이미지는 검수배치별로 상장과 함께 지속 보완; AI 생성 이미지는 실사로 둔갑시키지 않는다.
| 항목 | 요구 사항 / 현황 |
|---|---|
| 기반 소프트웨어 | NVIDIA AI Enterprise / Base Command 계열 (클러스터급 스케줄링 및 모니터링) |
| 집합 통신 | NCCL이 NVLink 도메인을 자동 인식하며, 랙 내 전폭 인터커넥트는 설정 불필요 |
| 랙 간 네트워크 | fabric 경로에 따라 Quantum-2/X800(IB) 또는 Spectrum-X(이더넷)를 구성하고 ConnectX-7/8 NIC 장착 |
| 스토리지 | GPUDirect Storage 직결 (NVMe 올플래시 스토리지 항목 참조) |
| 운영 | 수랭 루프 순회 점검 + NVLink 도메인 헬스 체크가 일상의 두 가지 핵심 업무 |
| 완제품 제조사 | Supermicro/Dell/Lenovo/Inspur 등의 NVL72 풀랙 솔루션(Supermicro 문서 기준[2]) |
랙급 시스템은 「서버 운영」을 「기계실급 운영」으로 격상시킵니다 — 수랭과 NVLink 도메인이 새로 추가된 두 가지 전문 분야입니다. 소프트웨어는 시간에 따라 진화하므로 NVIDIA 공식 발표를 기준으로 합니다.
GB200 NVL72 조달의 검수 포인트 (3가지):
전체 6항목 스트레스 테스트 판례는 본 항목 참조«번인 테스트 방법»절 참조.
6항목 스트레스 테스트 기준, 수치 판례는 모두 GB200 NVL72 실측 기준: 개봉 식별 → 수랭 루프 → NVLink 도메인 → 연산 베이스라인 → 스토리지 직결 → 장시간 번인 테스트.
GB200 NVL72는 NVIDIA 승인 시스템 제조사의 풀랙 납품이 중심입니다:
| 완제품 제조사 | 대표 솔루션 | 차이점 | 2026년 현황 |
|---|---|---|---|
| Supermicro | SuperCluster GB200 NVL72(공식 문서 기준[2]) | 트레이 구성과 납품 일정 | 랙 단위 납품의 주력 |
| Dell | PowerEdge 랙 레벨 솔루션 | 글로벌 톱티어 서비스 네트워크 | 랙 단위 납품 |
| Lenovo/Inspur 등 | NVL72 랙 단위 솔루션 | 지역 납품과 서비스 반경 | 프로젝트 기반 유통 |
| 랙 분할/트레이 단위 유통 | 컴퓨트 트레이/스위치 트레이 단위 | 혼합 트레이 조립 리스크, 트레이별 검수 필요 | 중고 시장 유통 |
시스템 제조사 구성은 각 벤더 공식 문서 기준[2].
NVL(NVLink)로 명명된 랙 레벨 시스템: 기존의 「여러 대 서버+스위치」 클러스터를 하나의 랙에 압축하고, 72개 GPU가 NVLink로 단일 도메인을 구성합니다——프로그래밍 관점에서는 거대한 한 장의 GPU이며, 카드 간 통신이 네트워크 프로토콜 스택을 거치지 않습니다.
GB200의 컴퓨트 유닛: 2개의 B200 GPU와 1개의 Grace CPU(72코어 Armv9)를 NVLink-C2C 칩 간 인터커넥트로 패키징——CPU와 GPU의 메모리 일관성 관점이 통일된, 컴퓨트 트레이의 빌딩 블록입니다.
랙 내 9대의 NVLink 스위치 트레이: 72개 GPU를 단일 도메인 풀 인터커넥트로 직조합니다——동선 백플레인 인터커넥트(랙 내 광모듈 불필요)로, NVL72와 기존 8카드 서버의 가장 큰 아키텍처 차이입니다.
수랭 2단 구성: 2차 회로(랙 내 냉각수, 콜드플레이트 부착)가 CDU를 통해 1차 회로(전산실 냉각수/냉동수)와 열교환——CDU는 두 회로의 인터페이스 장비이며, NVL72 배치의 핵심 인프라입니다.
랙 레벨 장비의 중고 시장 유통 형태: 랙을 해체해 트레이 단위로 유통합니다. 「혼합 트레이 조립」(출처가 다른 트레이로 하나의 랙 구성)은 NVLink 도메인 완전성과 트레이 상태 일관성을 중점 검수해야 합니다——계약서에 구성 출처를 명기하는 것이 자기 방어의 기본입니다.
GB200 NVL72는 랙 단위와 랙 분할 두 단계로 유통되며, 트레이 구성, 수랭 인프라, 전산실 조건에 따라 단일 랙 가격 편차가 매우 큽니다——검증 가능한 통합 시세 스냅샷이 아직 없으며,본 백과의 정직 원칙: 시세 밴드를 만들지 않으며, 가격은 판매자 제시가 기준。
재고 검색: AIXX Exchange 쇼룸 › (수수료 0% 매칭, 거래에 참여하지 않으며 체결가를 알거나 추측하지 않으므로 데이터가 중립적입니다). 시세 스냅샷이 충분히 축적되면 이 섹션은 표준 시세 밴드로 전환됩니다.
신규 구매는 예산과 납기 기준: GB300(B300 288GB/카드+CX-8 800G)이 신규 랙의 플래그십; GB200은 배치 누적량이 가장 많은 이전 세대 랙으로, 중고 시장에서의 가치는 트레이 상태와 수랭 인프라에 달려 있습니다. 두 세대 모두 동일한 수랭 아키텍처로 전산실 조건 재사용성이 높습니다.
세 가지입니다: 수랭(1차측 급수 조건+CDU 배치, 공랭 전산실은 직접 도입 불가), 전력(랙 단위 전력 밀도가 기존 랙을 크게 상회, 버스바와 변압기는 시스템 구성 기준으로 재검토), 내하중과 크레인 경로. 소프트웨어 측 NVLink 도메인과 스토리지 다이렉트는 본 항목의 스트레스 테스트 기준으로 검수하세요.
중고 시장에 트레이 단위 유통이 존재하지만(18 컴퓨트+9 스위치 트레이 분리 가능), NVLink 도메인 완전성은 랙 레벨 백플레인과 스위치 트레이에 의존합니다——단일 트레이는 랙을 벗어나면 NVLink 도메인 가치가 없습니다. 혼합 트레이 조립은 반드시 전체 도메인 스트레스 테스트 후 인수하세요.
규모와 예산의 경계: 수십 카드 규모, 공랭/하이브리드 전산실——HGX 베이스보드 시스템이 유연; 백 카드 이상, 단일 도메인 인터커넥트 효율 추구, 수랭 조건 갖춘 전산실——NVL72. 각각의 항목에서 상세 비교하세요.
두 특수 항목+자산 확인: 수랭 회로 전체 체인(CDU/매니폴드/퀵커플링/콜드플레이트 압력 테스트), NVLink 도메인 전수 검사(전 포트 Active+트레이 간 대역폭), 트레이 레벨 자산 대조(시리얼 번호와 혼합 트레이 이력). 본 항목의 6개 스트레스 테스트를 완료한 후 인수하세요.