스펙 카드 SPEC CARD
NVIDIA Tesla V100 SXM3 32GB
V100 계열의 고성능 S 모델: 대역폭을 공식 1134GB/s로 끌어올리고 Tensor 130, FP32 16.4(32GB HBM2 기본 탑재)를 갖춰 Volta 카드 중 중고 시장에서 가장 수요가 많은 32GB 대용량 메모리 버전입니다. 또한 DGX-2 전용 SXM3 32GB 모듈(350W, NVSwitch 풀 인터커넥트, SXM3 소켓은 SXM2 보드와 호환 불가)도 함께 다루며, '노드당 16카드' 빅그래프 이기종 컴퓨팅 시대를 연 하드웨어입니다. 두 가지 희소한 32GB 폼팩터를 모두 아카이브합니다
개요
NVIDIA Tesla V100 SXM3 32GB는 Volta 아키텍처(GV100) 기반의 데이터센터 가속 카드로, 32GB HBM2 메모리(4096-bit, ECC 탑재)를 갖추고 5120개의 CUDA 코어, 640개의 1세대 Tensor Core, 2560개의 FP64 코어를 보유합니다. SXM3 미자닌 인터페이스를 채택해 DGX-2/HGX-2 플랫폼 전용으로 설계되었으며, NVSwitch를 통해 16카드 풀 인터커넥트를 구현합니다. 이 모듈은 대규모 딥러닝 학습, 고성능 컴퓨팅, 빅그래프 이기종 컴퓨팅 환경을 겨냥한 것으로, Volta 시대 랙급 AI 시스템의 핵심 연산 유닛이었으며 현재는 주로 중고 및 해체 시장에서만 구할 수 있습니다.
핵심 스펙
| 아키텍처 | Volta (GV100) |
| 메모리 | 32GB HBM2 (CoWoS) with ECC, 4096bit (V100S의 유일한 용량; SXM3-32GB는 DGX-2 전용 동일 용량 모듈) |
| 메모리 대역폭 | V100S 1134 GB/s; SXM3-32GB 모듈은 공식 표에 별도 기재가 없으며, 독립 소스는 900GB/s급으로 분류 — 1134는 공식상 V100S PCIe 항목에만 적용 |
| 메모리 버스 폭 | 4096bit |
| 연산 성능 | V100S 공식 기준: FP32 16.4 / FP64 8.2 / Tensor 130 TFLOPS; SXM3-32GB는 공식 단독 수치가 없으며 SXM2 행(15.7/7.8/125)에 병합되어, 16.4/130은 SXM3에는 공식 적용되지 않음 |
| CUDA 코어 | 5120 (80 SM) / Tensor Core 640 (초대) / FP64 코어 2560 |
| 소비 전력 | SXM3 모듈 350W; V100S PCIe 250W |
| 인터커넥트 | V100S: PCIe Gen3 x16 32GB/s, NVLink 없음; SXM3-32GB: NVLink 2.0 ×12 링크를 NVSwitch로 풀 인터커넥트(DGX-2/HGX-2 전용, SXM3 소켓은 SXM2 보드와 호환 불가) |
| 출시 연도 | V100S: 2019 (2019-11-26 출시, 발표 당시 PCIe 3 폼팩터만 존재); SXM3-32GB 모듈: 2018-03-27 DGX-2와 함께 공개(V100S보다 앞섬) |
| 공정 | TSMC 12nm FFN, 21.1B 트랜지스터, 815mm² |
| 폼팩터 | SXM3 미자닌 모듈(DGX-2 독점, 16카드 NVSwitch 베이스보드) / V100S는 PCIe 듀얼 슬롯 풀하이츠 풀렝 패시브 쿨링 |
| 특징 | 동일 칩에 클럭을 올린 V100 고성능 S 버전: 대역폭 900→1134GB/s, Tensor 125→130, FP32 15.7→16.4(공식 수치는 PCIe 형태에만 적용); SXM3 32GB 모듈은 DGX-2/NVSwitch 풀 인터커넥트 시대를 연 카드로, nvidia-smi 인식명은 Tesla-V100-SXM3-32GB |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 대규모 딥러닝 모델 학습, 특히 32GB 대용량 메모리와 Tensor Core 기반 FP16 연산 가속이 필요한 비전 및 언어 모델
- DGX-2/HGX-2 플랫폼의 NVSwitch 풀 인터커넥트 아키텍처를 활용한 다중 GPU 집합 통신 및 모델 병렬 학습 작업
- 배정밀 과학 계산, 예를 들어 전산유체역학, 분자동역학, 양자화학 등 FP64 성능에 의존하는 HPC 워크로드
- 초대형 그래프 데이터와 지식 그래프의 이기종 컴퓨팅으로, 단일 노드 내에서 여러 카드의 메모리를 합쳐 대규모 그래프 구조를 처리해야 하는 경우
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
영상 해설 VIDEO
구매 및 검수 포인트
- 폼팩터와 호환성이 첫 번째 관문입니다: SXM3 미자닌 모듈은 DGX-2/HGX-2 전용 베이스보드에만 장착되며, 소켓은 SXM2 보드와 호환되지 않습니다. 구매 전 반드시 시스템 또는 보드 모델을 확인해야 하며, SXM3 모듈은 일반 서버나 SXM2 메인보드에 직접 이식할 수 없습니다.
- 전원과 냉각은 시스템 전체 기준으로 평가해야 합니다: 이 모듈은 고전력 설계로 DGX-2급 랙 전원과 수랭/강제 공랭 방식에 의존하며, 부품 시장에는 독립 냉각 키트가 사실상 존재하지 않습니다. 중고 구매는 DGX-2/HGX-2 시스템 전체 또는 검증된 호환 플랫폼 단위로 진행해, 단일 카드만 사놓고 배치하지 못하는 상황을 피해야 합니다.
- 인터커넥트 아키텍처가 클러스터 가치를 결정합니다: NVLink 2.0은 NVSwitch를 통해 풀 인터커넥트를 구현하므로, 단일 카드를 떼어 내면 인터커넥트의 이점을 잃게 됩니다. 검수 시 nvidia-smi로 Tesla-V100-SXM3-32GB로 인식되는지 확인하고, ECC 상태와 메모리 건강도를 점검하며, 출처가 시스템 해체품인지 확인해 리퍼 리스크를 줄여야 합니다.
자주 묻는 질문
Tesla V100 SXM3 32GB와 일반 V100 PCIe 32GB의 차이는 무엇인가요?
둘 다 GV100 코어와 32GB HBM2를 사용하지만 인터페이스 형태가 완전히 다릅니다: SXM3는 미자닌 모듈로 DGX-2/HGX-2 플랫폼 전용이며 NVSwitch를 통해 16카드 풀 인터커넥트를 구현합니다. PCIe 버전은 표준 듀얼 슬롯 패시브 카드로 PCIe Gen3 x16을 사용하고 NVLink가 없습니다. SXM3 모듈은 일반 서버 메인보드에 장착할 수 없습니다.
낱장 카드를 사서 SXM3 플랫폼을 직접 조립할 수 있나요?
기본적으로 불가능합니다. SXM3 소켓은 DGX-2/HGX-2 전용 베이스보드의 독점 형태로, 공개 유통망에는 별도의 SXM3 보드가 판매되지 않으며, 모듈은 시스템급 전원과 냉각 설계에 의존합니다. 이 모듈을 사용하려면 현실적으로는 DGX-2/HGX-2 시스템 전체 또는 공식 호환 시스템을 구매하는 방법뿐입니다.
V100 SXM3 32GB를 지금 딥러닝용으로 구매할 가치가 있나요?
목표가 대규모 멀티 GPU 학습이고 DGX-2급 플랫폼 전체를 확보할 수 있다면, NVSwitch 풀 인터커넥트와 대용량 메모리는 특정 빅그래프·멀티 GPU 병렬 시나리오에서 여전히 가치가 있습니다. 다만 1세대 Tensor Core 아키텍처인 만큼, 중고 시장에서는 시스템 전체 형태로 명확한 워크로드와 함께 가성비를 평가해야 하며, 단일 카드 부품은 배치가 불가능해 의미가 제한적입니다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스