SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA T4

역대급으로 대량 배포된 추론 카드 중 하나: 70W 슬롯 전원 단일 슬롯 하프 하이츠 패시브 쿨링 카드로 어떤 서버에도 장착 가능, INT8 130 TOPS 멀티 프레시전 추론과 38개 채널 비디오 디코딩을 겸비. 주요 클라우드 사업자의 T4 인스턴스(예: AWS G4dn 8카이 머신)가 대규모로 운영되어 방대한 기존 재고가 쌓였으며, 중고 시장에서 공급이 가장 풍부한 엔트리 추론 카드다

개요

NVIDIA T4는 Turing(튜링) 아키텍처 기반 PCIe 가속 카드로, TU104 GPU를 탑재하며 Tensor Core 320개와 RT Core 40개를 갖추고 있다. 메모리는 16 GB GDDR6, 메모리 버스 폭 256 bits이며 x16 PCIe Gen3 인터페이스로 호스트와 연결된다. 정밀도별 성능은 FP32 8.1 TFLOPS, 혼합 정밀도 65 TFLOPS, INT8 130 TOPS, INT4 260 TOPS다. T4는 단일 슬롯 하프 하이츠·하프 렝스 패시브 냉각 설계로, 보드 전체 소비 전력 상한은 70 W이며 외부 전원 연결이 불필요해 고밀도 서버에 적합하다. 딥러닝 추론과 비디오 디코딩 가속을 동시에 지원하며, 클라우드 추론 인스턴스와 엣지 서버에서 매우 널리 배포된 범용 추론 카드다

핵심 스펙

아키텍처Turing (TU104-895)
메모리16GB GDDR6 with ECC (기본 활성화)
메모리 대역폭320GB/s (초기 버전 datasheet 기준 300GB/s)
메모리 버스 폭256bit
연산 성능FP32 8.1 TFLOPS / FP16·FP32 혼합 정밀도 65 TFLOPS / INT8 130 TOPS / INT4 260 TOPS
CUDA 코어2,560 (40 SM) / Tensor Core 320 / RT Core 40
소비 전력70W (보드 전체 전력, 기본값)
인터커넥트PCIe Gen3 x16 (x8 동작 지원, Interconnect BW 32GB/s)
출시 연도2018 (Product Brief v01 2018-10-24 초판, Dec18판 datasheet © 2018 NVIDIA)
폼팩터단일 슬롯 하프 하이츠·하프 렝스 Low-Profile 6.6인치(길이 169.53mm), 패시브 냉각, 보드 무게 301g
클럭Base 585MHz / Boost 1590MHz (Base는 70W 전력 한계 기준 설정)
미디어 엔진1080p30 디코딩 H.264 32채널 / HEVC 44채널 / VP9 32채널
SR-IOV지원; 16 VF (지원)
공정12nm FFN, 136억 트랜지스터, 545mm2
Compute APIsCUDA, NVIDIA TensorRT, ONNX
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)
NVIDIA RTX PRO 6000 Blackwell 비교96GB GDDR7 with ECC (단일 카드 최대 메모리를 갖춘 전문가용 워크스테이션 GPU)600W Total board power (공식), 전원 1x PCIe CEM5 16-pin, 양방향 관통 냉각(Double-flow-through)

영상 해설 VIDEO

구매 및 검수 포인트

자주 묻는 질문

T4는 외부 전원이 필요한가요? 일반 서버에도 장착할 수 있나요?
T4의 카드 전체 소비 전력 상한은 70 W로, 전원을 모두 PCIe 슬롯에서 공급받아 외부 전원 케이블이 필요 없다. 단일 슬롯 하프 하이츠·하프 렝스 패시브 냉각 설계로 대부분의 표준 서버(1U/2U 랙 서버 포함)에 장착할 수 있지만, 패시브 냉각 특성상 섀시에 정방향 기류 풍로가 필요하며 일반 데스크톱 섀시는 기류가 부족할 수 있으므로 신중한 사용이 요구된다.
T4로 LLM 추론을 돌리기에 적합한가요? 16 GB 메모리면 충분한가요?
T4는 훈련보다 추론에 초점이 맞춰진 카드로, 16 GB GDDR6 메모리에 양자화된 중소형 모델(INT8/INT4 양자화 언어 또는 비전 모델 등)을 수용할 수 있으며 TensorRT와 함께 배포하면 효율이 높다. 파라미터 수가 많은 모델은 양자화, 레이어드 로딩 또는 멀티 GPU 분할이 필요하며, 더 높은 처리량을 원한다면 최신 추론 카드를 검토하는 것이 좋다.
중고 T4는 구매할 가치가 있나요? 검수 시 무엇을 확인해야 하나요?
T4는 주요 클라우드 사업자의 추론 인스턴스에 대량으로 사용된 모델로, 시장 재고와 중고 물량이 모두 풍부하고 가격 부담이 낮아 엔트리 추론 및 비디오 트랜스코딩에 흔히 선택되는 카드다. 검수 시 메모리 ECC 활성화 여부와 메모리 전체 스트레스 테스트 통과, 풀 로드 시 온도와 클럭 다운 상태, 디코딩 및 Tensor Core 기능 정상 동작을 확인하고, SN과 보증 상태를 대조해야 한다.
심층 읽기:NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목AIXX Pedia · 심층 항목
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공