
H200(정식 명칭 NVIDIA H200, 'Hopper' 시리즈 소속)는 NVIDIA가 2023년 11월발표하여2024년 6월부터 납품이 시작된 데이터센터 GPU로, H100의 메모리 강화 버전입니다. 연산 성능은 H100과 동일하되 카드당 메모리가 두 배로 늘어나 141GB HBM3e가 되었고, 대역폭도 향상되었습니다. 4.8TB/s[1]。
H200은 '대용량 메모리 추론 및 파인튜닝'의 주력 모델로 포지셔닝됩니다. 대규모 모델 시대에는 메모리 용량이 수용 가능한 모델 크기를 결정하는데, H200은 H100과 동일한 조달·운영 생태계를 유지하면서 거의 두 배의 메모리 공간을 제공합니다. 이것이 지금까지도 글로벌 현물 시장의 주력 물량이며 '가치 유지되는 대용량 메모리'로 불리는 이유입니다.
중국 본토 시장에서 H200은 2025년 12월 대중 수출이 승인되었고, 2026년 7월부터 공급이 확대되었습니다. 유통 가격은 공급 일정에 따라 크게 요동치고 있습니다(『시세 밴드』와 『연혁』 참조).
AIXX Index(0–100): 본 라이브러리는 공개 사양 기반 가중 산출——메모리 40% + 인터커넥트 30% + 에코시스템 30%, 시나리오별 가중치 조정. 90+ 플래그십급 · 75+ 우수 · 60+ 사용 가능 · 60 미만 부적합. 방법론이 투명하고 검증 가능하며, 성능 보장은 아니다.
2023년 11월, NVIDIA는 H200을 발표했습니다. H100의 메모리 업그레이드 버전으로 HBM3e 141GB, 4.8TB/s를 갖추고 2024년 중반 납품을 예고했습니다.[1]。
2024년 6월부터 전 세계에 순차 납품되며 빠르게 대규모 모델 추론·파인튜닝의 주력 물량 모델이 되었습니다.
2025년 12월, H200의 대중 수출이 승인되었고 유통 모듈 가격은 약 모듈당 140만 위안(언론 보도 기준[2]), 첫 물량은 수천 세트 규모였습니다.
2026년 7월부터 대중 공급이 확대되며 H 시리즈 가격이 전반적으로 급락했고, H200은 중국 본토 현물 시장에서 공급이 가장 충분한 플래그십 대용량 메모리 모델이 되었습니다.
| 항목 | 사양 |
|---|---|
| GPU 코어 | NVIDIA Hopper H200(SXM5) |
| 보드당 메모리 | 141GB HBM3e |
| 메모리 대역폭 | 4.8TB/s / 카드 |
| 연산 성능 | H100과 동일 (FP8 약 페타플롭스급, 희소 연산 기준) |
| GPU 간 인터커넥트 | NVLink 4세대 · 900GB/s |
| 보드 소비 전력(TBP/TGP) | 최대 700W (구성 가능) |
| 주류 시스템 형태 | HGX H200 8-카드 베이스보드 (공랭 / 수랭) |
| 전 세대 / 경쟁 제품 | HGX H100 80GB / B300(288GB,Blackwell Ultra) |
사양은 NVIDIA 공식 공개 자료 기준[1];완제품 구성은 OEM 및 로트에 따라 차이가 있습니다.
| 항목 | H100 80GB | H200 | B300 |
|---|---|---|---|
| 보드당 메모리 | 80GB HBM3 | 141GB HBM3e | 288GB HBM3e |
| 메모리 대역폭 | 3.35TB/s | 4.8TB/s | 약 8TB/s |
| 연산 세대 | Hopper | Hopper (동일 연산 성능) | Blackwell Ultra(FP4) |
| GPU 간 인터커넥트 | NVLink 4 · 900GB/s | NVLink 4 · 900GB/s | NVLink 5 · 1.8TB/s |
| 선택 한 줄 요약 | 예산 한계 · 최대 생태계 | 대용량 메모리 · 물량 주력 | 플래그십 신규 구매 · 차세대 |
사양은 NVIDIA 공식 공개 자료 기준; B300 열의 상세 비교는 해당 항목 참조.
HGX H200 베이스보드 기반 완제품은 여러 OEM이 납품하며, 중국 본토 현물 시장에서 흔히 볼 수 있는 것은:
H200의 주류는공랭 HGX 8카드 폼팩터: 700W급 SXM5 방열타워 솔루션이 성숙하여 기존 서버룸에도 배치 가능합니다. 이것이 차세대 수랭 플래그십과 구별되는 최대 배치상 장점입니다. 일부 OEM은 수랭 변형 모델을 제공하며, 주로 고밀도 맞춤 프로젝트에서 볼 수 있습니다.


| 모델 / 시나리오 | 메모리 수요 (FP8 추정) | H200 배치 | AIXX Index |
|---|---|---|---|
| DeepSeek R1 풀 스펙 (671B) | 약 690GB | 8카드 1.128TB 풀 스펙 단일 서버 배포 가능, 여유분 합리적 | 93 |
| R1-Distill 70B급 | 약 70GB | 카드당 141GB 배포 가능, 여유 충분 | 95 |
| 72B급 오픈소스 모델 | 약 72GB | 단일 카드 배포, 긴 컨텍스트 여유 큼 | 95 |
| 영상 생성 모델 (10-20B급) | 약 20-40GB | 단일 카드로 여유롭고 대량 파이프라인에 적합 | 80 |
메모리는 FP8 가중치 ≈ 파라미터 수 × 1바이트로 추산; AIXX Index는 본 데이터베이스의 추정 기준이며 실측에 따라 갱신됩니다.








실사 사진은 검수 로트별로 게시되어 지속 보완;AI 생성 이미지는 실사로 위장하지 않음.
일부 지역에서는 바로 재생되지 않을 수 있습니다
| 항목 | 요구 사항 / 현황 |
|---|---|
| CUDA | 12.4 이상 (Hopper 완전 지원) |
| 드라이버 | 550 시리즈 이상 |
| 학습 프레임워크 | PyTorch / TensorFlow 공식 Hopper 지원 |
| 추론 엔진 | vLLM / SGLang / TensorRT-LLM 모두 대응 완료 |
| 네트워크 구성 | ConnectX-7 400G 또는 동급 인터커넥트 솔루션 |
| 운영체제 | 주류 Linux 배포판(Ubuntu 22.04+ 등) |
Hopper 생태계는 3년간의 축적으로 가장 성숙; 소프트웨어 스택 버전은 시간에 따라 변동되므로 NVIDIA 공식 발표 기준.
H200 구매 시 검수 포인트 (3가지):
전체 6개 항목 스트레스 테스트 판정 기준(수치는 H200 실측 앵커)은 본 항목 참조«번인 테스트 방법»절 참조.
6개 항목 스트레스 테스트 기준, 수치 판례는 모두 H200 실측 앵커: 개봉 식별 → 단일 카드 번인 테스트 (700W 공랭 타워, ≤85℃ 무 ECC 합격) → 전체 서버 풀 로드 → 메모리 대역폭 (표기 4.8TB/s, ≥85% 합격) → 인터커넥트 대역폭 (nccl-tests ≥750GB/s) → 추론 처리량 (≥공개 벤치마크의 80%).
nvidia-smigpu-burn 3600 또는 dcgmi diag -r 3 · 30–60분bandwidthTest(CUDA 내장 샘플)nccl-tests all_reduce 벤치마크vLLM 실제 모델 구동기준 설명: 합격/우수 기준선은 본 라이브러리가 엔지니어링 통용 기준(대역폭은 공칭값 대비 비율, 온도는 데이터센터 통용 상한)으로 정리한 것으로, 검수 보고서 실측 데이터 축적에 따라 점차 보정됩니다. 본 표는 어떠한 검수 약속도 구성하지 않으며, 구체적인 사항은 계약 약정 기준입니다.본 라이브러리 검수 보고서의 실측 항목은 본 표 기준으로 기록됩니다 — NOT_EXECUTED는 해당 항목 미실행을 의미하며, 「미측정」 자체도 중요한 정보입니다.
동일한 HGX H200 베이스보드라도 제조사별 완제품은 폼팩터, 냉각, 서비스에서 차이가 납니다. 선정 전 차이를 먼저 확인하세요:
| 완제품 제조사 | 대표 폼팩터 | 차이점 | 적합한 대상 |
|---|---|---|---|
| Supermicro 슈퍼마이크로 | SYS-821GE-TNHR (8U 공랭) | 주력 물량 모델, 출하량과 유통망이 가장 넓음 | 재고 구매 · 가성비 중시 |
| Dell 델 | PowerEdge 시리즈 (HGX H200 8) | 글로벌 톱티어 서비스 네트워크와 엔터프라이즈급 지원 | 국제 배포 · 서비스 중시 |
| Gigabyte 기가바이트 | HGX H200 8 완제품 | 유연한 구성, 아태 채널 강세 | 아태 채널 구매 |
| Aivres | KR6288 (8U 공랭) | 전문 매체의 완전 리뷰 대상 모델, 투명성 높음 | 공개 리뷰를 확인 후 의사결정 |
| AMAX 등 통합업체 | 통합 플랫폼 (대학 클러스터 사례 등) | 프로젝트형 통합 납품 | 대량 프로젝트 · 입찰 시나리오 |
| 완제품 제조사 | 설치 용이성 | 유지보수 편의성 | 성능 밀도 | 수명 전망 |
|---|---|---|---|---|
| Supermicro 슈퍼마이크로 | 90 | 85 | 84 | 82 |
| Dell 델 | 90 | 92 | 84 | 85 |
| Gigabyte 기가바이트 | 85 | 80 | 86 | 80 |
| Aivres | 86 | 80 | 85 | 81 |
| AMAX 등 통합업체 | 82 | 80 | 84 | 82 |
AIXX Index는 본 라이브러리의 추정 기준(0–100, 산출 근거=공개 폼팩터, 냉각 방안 및 서비스 네트워크 차이)이며, 실기 검증에 따라 갱신되며 구매 약속을 구성하지 않습니다. 구체적 사양은 제조사 공식 발표 기준입니다.
GPU 옆에 적층된 고대역폭 메모리. H200은 카드당 141GB HBM3e, 대역폭 4.8TB/s — 메모리는 한 세대 제품의 핵심 가치입니다.
4세대 NVLink, 카드 간 900GB/s 다이렉트 인터커넥트로 8개 GPU가 하나처럼 협업합니다.
GPU가 베이스보드에 직접 실장(카드 방식 아님), HGX H200 8-카드 베이스보드가 곧 SXM5 폼팩터; 검수 시 베이스보드까지 함께 검증해야 합니다.
8비트 부동소수점 포맷, 추론의 주류 정밀도; 메모리 점유 추산: FP8 가중치 ≈ 파라미터 수 × 1바이트.
H200은 2025년 12월 대중국 승인;로트·통관 경로·컴플라이언스 상태가 보증과 잔존가치에 직접 영향, 검수 시 필수 확인.
| 날짜 | 기준 | 지역 | 참고 가격대 | 비고 |
|---|---|---|---|---|
| 2026-10-21 | 마켓 실시간 | 미국(USD) | $209만 – 226만 | 견적 4건 ›(전량 배치호가 기준) |
| 2026-10-21 | 마켓 실시간 | 중국 본토 | ¥5,850,179만 – 7,007,409만 | 견적 3건 ›(전량 배치호가 기준) |
| 2025-12 | 대중 유통 참고 | 중국 본토 | 약 ¥140만 / 모듈 | 언론 보도 기준[2] · 본토 판매 중 › |
| 2025-09 | 조달 사례 | 중국 본토 | 일괄 263.9만 | 시안교통대학 AMAX H200 플랫폼 (공개 낙찰 정보) |
| 2024-06 | 해외 앵커 가격 | 북미 | $172,643부터 / 카드보드 | 유통 공개 표가 (베어본 기준) |
기준:3개 리전 모두 8카드 풀시스템 기준으로 직접 비교 가능—— 중국 본토는 2025-12 대중 수출 승인 시점 기준 추정치(승인 직후 공급 부족으로 프리미엄 상승, 2026-07 물량 확대 후 하락, 2026-10 기준 판매 중 실측 앵커 대당 585-700만 위안, 3대); 북미는 채널 풀시스템 표시 가격이 출하 후 완만히 상승한 것으로 소급(2026-10 판매 중 기준 대당 $209.5-226.8만, 4대, 그래프 내 환산 위안 축 동일); 유럽은 판매 중 풀시스템 견적 기준(대당 €318.9만, Dell HGX H200). 기타 시장은 본 데이터베이스의 판매 중 스냅샷이 축적되는 대로 자동 공개됩니다. 본 데이터베이스 가격 데이터 출처: AIXX 거래소(수수료 0% 매칭, 거래에 참여하지 않으며, 체결가를 파악·추측하지 않아 데이터가 중립적입니다). 추정 구간은 추세 참고용이며, 실제 가격은 판매자 제시가 기준.
연산 성능은 동일, 메모리는 2배: 80GB→141GB HBM3e, 대역폭 3.35→4.8TB/s. 한 줄 요약: H200은 H100의 생태계를 유지하면서 거의 2배의 메모리를 얻은 모델입니다.
가능합니다. R1 풀버전 FP8 가중치는 약 690GB로, H200 8카드 풀시스템의 총 1.128TB 메모리로 단일 서버 풀버전 배포가 가능하며 여유분도 적절합니다(「모델 호환성」 참조).
병목이 메모리 용량이고 예산에 민감하다면: H200; FP4 연산과 차세대 인터커넥트가 필요하다면: B300. 두 모델은 한 세대 차이이며 가격대도 한 수준 차이 — 먼저 자신의 병목을 확인하세요(B300 항목 비교 참조).
공급이 대중 수출 정책 리듬에 따라 변합니다: 승인→물량 확대→쿼터 조정, 매 사이클마다 채널 가격이 직접 바뀝니다(「연혁」과 연표 참조). 본 데이터베이스는 일별 데이터를 기록할 뿐 성격 규정은 하지 않습니다.
있습니다. H100을 개조해 H200으로 둔갑시킨 사례가 현물 시장에서 확인되었습니다. 시리얼 넘버 독립 검증 + 메모리 실측은 필수 절차입니다(「구매 및 검수」 참조).