SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA H100 SXM

현재 AI 학습의 사실상 표준 카드 — DGX/HGX H100의 핵심, 만 카드 규모 클러스터의 중추이자 중고 선물 시장에서 가장 강력한 하드커런시, 보존가치의 왕

개요

NVIDIA H100 SXM은 Hopper 아키텍처 기반의 데이터센터 가속 컴퓨팅 카드로, DGX 및 HGX H100 시스템의 핵심 구성 요소이자 현재 대규모 AI 학습의 사실상 표준 하드웨어입니다. SXM5 폼팩터를 채택했으며 80GB HBM3 메모리를 탑재하고, 4세대 NVLink를 통해 900GB/s의 GPU 간 인터커넥트 대역폭을 제공하며 PCIe Gen5를 네이티브로 지원합니다. Tensor Core은 FP64부터 FP8까지 다양한 정밀도를 커버하고, MIG를 통해 단일 카드를 최대 7개 인스턴스로 분할할 수 있습니다. 이 카드는 대규모 언어모델 사전학습, 추론 서비스 및 고성능 컴퓨팅 클러스터에 널리 배포되어 있으며, 중고 시장 유통에서도 공급 희소성으로 인해 높은 보존가치를 보입니다.

핵심 스펙

아키텍처NVIDIA Hopper(GH100 코어, TSMC 4N 커스텀 공정, 800억 트랜지스터, 814mm², Compute Capability 9.0)
메모리80GB HBM3(SXM5 기준, 5개 HBM3 스택);PCIe 버전은 80GB HBM2e(5스택, 2TB/s)
메모리 버스 폭5120bit(SXM5와 PCIe 버전 모두 10개 512bit 메모리 컨트롤러)
메모리 대역폭3.35TB/s(SXM5);PCIe 버전 2TB/s
연산 성능FP8 Tensor Core 3,958 TFLOPS(스파시티 포함, 덴스 1,979); FP16/BF16 TC 1,979*; TF32 TC 989*; FP64 TC 67; FP32 67; FP64 34(SXM5 기준, *=With sparsity)
소비 전력SXM5 최대 700W(구성 가능);PCIe 버전 350W
인터커넥트NVLink 4.0 900GB/s(SXM5, 18개 링크)+PCIe Gen5 x16 128GB/s;PCIe 버전: PCIe Gen5 128GB/s, 듀얼 카드 NVLink 브리지 600GB/s 선택 가능
출시 연도2022(2022-03-22 GTC 발표, SXM5 2022년 3분기 출시)
SM 및 CUDA 코어132 SM / 16,896 FP32 CUDA 코어(SXM5);PCIe 버전 114 SM / 14,592
부스트 클럭SXM5: 1830MHz(FP8/FP16/BF16/TF32 TC)/1980MHz(FP64 TC와 FP32/FP64);PCIe 버전: 1620/1755MHz
L2 캐시50MB
MIG 슬라이싱2세대 Secure MIG, 최대 7 인스턴스 @10GB
코덱7 NVDEC + 7 NVJPG
폼팩터SXM5 모듈(액침/공랭은 완제품에 따라 결정, HGX/DGX H100 4 또는 8카드 구성);PCIe 버전 듀얼 슬롯 공랭
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

심층 읽기 자료:H100 심층 항목(20절 심층판) · 심층 항목H100 NVL 슬림 카드 · 심층 항목

구매 및 검수 포인트

자주 묻는 질문

H100 SXM과 H100 PCIe의 차이는 무엇이며, 어떻게 선택해야 할까요?
SXM 버전은 보드 장착 형태로, NVLink를 통해 900GB/s 카드 간 상호연결 제공, Tensor Core 연산력 사양이 더 높아 멀티카드 협업 대규모 학습 클러스터에 적합;PCIe 버전은 표준 듀얼 슬롯 공랭 카드로, 선택적 NVLink 브리징 지원 (두 카드 상호연결, 대역폭 낮음), 호환성이 더 좋고 배포 장벽이 낮아 단일 머신 또는 중소 규모 시나리오에 적합. 클러스터 확장성과 피크 연산력을 원하면 SXM, 유연한 배포를 원하면 PCIe 선택.
H100은 MIG 분할을 지원하나요? 한 장의 카드를 몇 명의 사용자에게 나눠줄 수 있나요?
지원합니다. H100 SXM의 MIG 기능은 단일 카드를 최대 7개 인스턴스로 분할할 수 있으며, 각 인스턴스에 10GB 메모리를 할당할 수 있어 추론 서비스, 개발·테스트 등 멀티 테넌트 환경에서 연산 격리와 활용률 향상을 실현합니다.
중고 H100은 구매할 가치가 있나요? 보존가치는 어떤가요?
H100은 현재 대규모 AI 학습의 주력 하드웨어로 수요가 지속적으로 높으며, 중고 시장 유통에서 가격 방어력이 동세대 대부분의 하드웨어보다 뚜렷하게 강해 보존가치가 높은 품목으로 평가받습니다. 다만 구매 시 출처의 적법성, 보증 상태, 하드웨어 건강도(메모리, NVLink, 냉각)를 중점적으로 확인하고, 실기 테스트로 사양과 상태를 확인한 후 거래해야 합니다.
심층 읽기:NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목AIXX Pedia · 심층 항목
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공