스펙 카드 SPEC CARD
NVIDIA T4
역대급으로 대량 배포된 추론 카드 중 하나: 70W 슬롯 전원 단일 슬롯 하프 하이츠 패시브 쿨링 카드로 어떤 서버에도 장착 가능, INT8 130 TOPS 멀티 프레시전 추론과 38개 채널 비디오 디코딩을 겸비. 주요 클라우드 사업자의 T4 인스턴스(예: AWS G4dn 8카이 머신)가 대규모로 운영되어 방대한 기존 재고가 쌓였으며, 중고 시장에서 공급이 가장 풍부한 엔트리 추론 카드다
개요
NVIDIA T4는 Turing(튜링) 아키텍처 기반 PCIe 가속 카드로, TU104 GPU를 탑재하며 Tensor Core 320개와 RT Core 40개를 갖추고 있다. 메모리는 16 GB GDDR6, 메모리 버스 폭 256 bits이며 x16 PCIe Gen3 인터페이스로 호스트와 연결된다. 정밀도별 성능은 FP32 8.1 TFLOPS, 혼합 정밀도 65 TFLOPS, INT8 130 TOPS, INT4 260 TOPS다. T4는 단일 슬롯 하프 하이츠·하프 렝스 패시브 냉각 설계로, 보드 전체 소비 전력 상한은 70 W이며 외부 전원 연결이 불필요해 고밀도 서버에 적합하다. 딥러닝 추론과 비디오 디코딩 가속을 동시에 지원하며, 클라우드 추론 인스턴스와 엣지 서버에서 매우 널리 배포된 범용 추론 카드다
핵심 스펙
| 아키텍처 | Turing (TU104-895) |
| 메모리 | 16GB GDDR6 with ECC (기본 활성화) |
| 메모리 대역폭 | 320GB/s (초기 버전 datasheet 기준 300GB/s) |
| 메모리 버스 폭 | 256bit |
| 연산 성능 | FP32 8.1 TFLOPS / FP16·FP32 혼합 정밀도 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS |
| CUDA 코어 | 2,560 (40 SM) / Tensor Core 320 / RT Core 40 |
| 소비 전력 | 70W (보드 전체 전력, 기본값) |
| 인터커넥트 | PCIe Gen3 x16 (x8 동작 지원, Interconnect BW 32GB/s) |
| 출시 연도 | 2018 (Product Brief v01 2018-10-24 초판, Dec18판 datasheet © 2018 NVIDIA) |
| 폼팩터 | 단일 슬롯 하프 하이츠·하프 렝스 Low-Profile 6.6인치(길이 169.53mm), 패시브 냉각, 보드 무게 301g |
| 클럭 | Base 585MHz / Boost 1590MHz (Base는 70W 전력 한계 기준 설정) |
| 미디어 엔진 | 1080p30 디코딩 H.264 32채널 / HEVC 44채널 / VP9 32채널 |
| SR-IOV | 지원; 16 VF (지원) |
| 공정 | 12nm FFN, 136억 트랜지스터, 545mm2 |
| Compute APIs | CUDA, NVIDIA TensorRT, ONNX |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 딥러닝 모델 추론 배포: Tensor Core와 INT8/INT4 양자화 역량을 바탕으로 TensorRT, ONNX 등 툴체인과 함께 온라인 추론 서비스의 대규모 배포에 적합
- 비디오 트랜스코딩 및 스트리밍 처리: 단일 카드로 1080p30 H.264, HEVC, VP9 스트림 수십 채널을 동시 디코딩할 수 있어 비디오 게이트웨이, 트랜스코딩 클러스터, 영상 분석 환경에 적합
- 고밀도 가상화 및 클라우드 데스크톱: SR-IOV(최대 16개 VF)와 ECC 메모리를 지원하여 멀티테넌트 GPU 풀링과 VDI(가상 데스크톱 인프라)에 적합
- 경량 렌더링 및 그래픽 가속: 내장 RT Core가 하드웨어 레이 트레이싱을 제공하여 중소 규모 렌더링, 시각화 및 혼합 워크로드에 활용 가능
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
| NVIDIA RTX PRO 6000 Blackwell 비교 | 96GB GDDR7 with ECC (단일 카드 최대 메모리를 갖춘 전문가용 워크스테이션 GPU) | 600W Total board power (공식), 전원 1x PCIe CEM5 16-pin, 양방향 관통 냉각(Double-flow-through) |
영상 해설 VIDEO
구매 및 검수 포인트
- T4는 패시브 냉각 설계로 섀시의 강제 공기 흐름에 의존하므로, 구매 전 대상 서버가 GPU에 적합한 기류 설계를 갖췄는지 확인하고 섀시가 단일 슬롯 하프 하이츠(low-profile) 장착을 지원하는지 검증해야 한다. 또한 PCIe 슬롯에서 전원을 공급받고 외부 전원 커넥터가 없어 별도 전원 케이블이 불필요하지만, 슬롯 전력 공급 능력이 카드 전체 소비 전력 상한을 충족하는지 확인해야 한다
- 인터페이스 및 호환성 검증: T4는 PCIe Gen3 x16 인터페이스를 사용하며(공식적으로 x8 설치도 지원), 구형 호스트와 최신 서버 모두에서 호환성이 우수하다. 구매 시 PCIe 토폴로지, 섀시 높이(하프 하이츠·하프 렝스, 보드 길이 약 6.6인치), 드라이버 및 가상화(SR-IOV, ECC 구성) 요구사항을 확인해야 한다
- 중고 및 재고 구매 시 카드별 검증 권장: ECC 메모리가 정상 활성화되고 스트레스 테스트를 통과하는지 확인하고, Tensor Core 무결성과 비디오 디코딩 능력(전용 벤치마크 도구로 H.264/HEVC/VP9 다중 채널 동시 처리 검증 가능)을 점검하며, 정품 SN을 요청해 보증 및 출처를 대조해야 한다. 해당 모델은 시장 재고가 매우 많으므로 배치별 차이와 탈착 카드의 상태를 구분해 주의해야 한다
자주 묻는 질문
T4는 외부 전원이 필요한가요? 일반 서버에도 장착할 수 있나요?
T4의 카드 전체 소비 전력 상한은 70 W로, 전원을 모두 PCIe 슬롯에서 공급받아 외부 전원 케이블이 필요 없다. 단일 슬롯 하프 하이츠·하프 렝스 패시브 냉각 설계로 대부분의 표준 서버(1U/2U 랙 서버 포함)에 장착할 수 있지만, 패시브 냉각 특성상 섀시에 정방향 기류 풍로가 필요하며 일반 데스크톱 섀시는 기류가 부족할 수 있으므로 신중한 사용이 요구된다.
T4로 LLM 추론을 돌리기에 적합한가요? 16 GB 메모리면 충분한가요?
T4는 훈련보다 추론에 초점이 맞춰진 카드로, 16 GB GDDR6 메모리에 양자화된 중소형 모델(INT8/INT4 양자화 언어 또는 비전 모델 등)을 수용할 수 있으며 TensorRT와 함께 배포하면 효율이 높다. 파라미터 수가 많은 모델은 양자화, 레이어드 로딩 또는 멀티 GPU 분할이 필요하며, 더 높은 처리량을 원한다면 최신 추론 카드를 검토하는 것이 좋다.
중고 T4는 구매할 가치가 있나요? 검수 시 무엇을 확인해야 하나요?
T4는 주요 클라우드 사업자의 추론 인스턴스에 대량으로 사용된 모델로, 시장 재고와 중고 물량이 모두 풍부하고 가격 부담이 낮아 엔트리 추론 및 비디오 트랜스코딩에 흔히 선택되는 카드다. 검수 시 메모리 ECC 활성화 여부와 메모리 전체 스트레스 테스트 통과, 풀 로드 시 온도와 클럭 다운 상태, 디코딩 및 Tensor Core 기능 정상 동작을 확인하고, SN과 보증 상태를 대조해야 한다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스