SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA Tesla P40

24GB 대용량 메모리 엣지 추 inference의 스테디셀러: Pascal 세대, Tensor Core 이전 시대의 INT8 추론 플래그십. 24GB 싱글 카드 대용량 메모리와 중고 저가격 덕분에 저예산 INT8 추론 및 소형 LLM 배포의 중고 시장 유통 주력 모델로 자리잡음

개요

NVIDIA Tesla P40은 Pascal 아키텍처(GP102 코어, Compute Capability 6.1) 기반의 데이터센터 추론 가속 카드로, 3840개의 CUDA 코어를 갖추고 있으며 FP32 피크 성능은 12 TFLOPS, INT8 피크 성능(DP4A 명령)은 47 TOPS에 도달합니다. 24 GB GDDR5 메모리와 384-bit 버폭을 갖췄으며, 온보드 ECC는 출고 시 기본 활성화됩니다. Pascal 세대는 Tensor Core가 없어 INT8 가속은 DP4A 명령 세트에 의존합니다. 이 카드는 풀 하이트/풀 길이 듀얼 슬롯 패시브 쿨링 폼팩터로, 디스플레이 출력이 없으며 PCIe Gen3 x16으로 호스트와 연결되고 NVLink는 지원하지 않습니다. 대표적인 용도로는 INT8 양자화 추론, 이미지 인식, 소규모 언어 모델 배포가 있으며, 중고 저예산 추론 시장의 주력 모델 중 하나입니다.

핵심 스펙

아키텍처Pascal (GP102), Compute Capability 6.1
메모리24GB GDDR5(온보드 ECC, 출고 시 기본 활성화, nvidia-smi로 비활성화 가능, HBM2 아님, NVLink 미지원)
메모리 대역폭346 GB/s
메모리 버스 폭384bit
연산 성능FP32 12 TFLOPS / INT8(DP4A) 47 TOPS(Pascal 세대, Tensor Core 없음)
CUDA 코어3840(30 SM × 128, deviceQuery 실측)
소비 전력250W(nvidia-smi 기본값=최대 전원 제한 250.00W, min 125W, CPU 8-pin/EPS 전원)
인터커넥트PCIe Gen3 x16(실측 Link Width 16x), NVLink 없음
출시 연도2016(2016-09 GTC China(베이징) 발표·공식 보도자료 날짜 2016-09-12, 2016-10 출시)
폼팩터풀 하이트/풀 길이 듀얼 슬롯 패시브 쿨링(NVIDIA Form Factor 3.0, 4.376인치×10.5인치 ≈ 111.15mm×266.7mm, 팬 및 디스플레이 출력 없음)
클럭Boost 1531 MHz / 메모리 유효 7.2 Gbps(deviceQuery: 3615 MHz)
특징Pascal 추론 전용 플래그십: INT8(DP4A) 명령 세트 기반 47 TOPS 추론 처리량, 24GB 싱글 카드 대용량 메모리로 당대 최대 GDDR5 구성
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

구매 및 검수 포인트

자주 묻는 질문

Tesla P40으로 대규모 언어 모델을 돌릴 수 있나요?
실행은 가능하지만 아키텍처 제약이 있습니다. P40에는 Tensor Core가 없고 FP16 처리량도 강점이 아니어서, 실제 배포에서는 보통 INT8 양자화 경로를 택해 DP4A 명령으로 준수한 처리량을 얻습니다. 24 GB 싱글 카드 메모리는 소규모 파라미터 모델이나 양자화된 모델에 적합하며, 더 큰 모델이나 높은 처리량이 필요하면 멀티 카드 PCIe 확장의 대역폭 병목을 평가하거나 더 최신 아키텍처로 전환해야 합니다.
P40은 왜 패시브 쿨링인가요? 일반 타워 케이스에 쓸 수 있나요?
P40은 서버 전용 카드로, 풀 하이트/풀 길이 듀얼 슬롯 패시브 쿨링을 채택해 자체 팬과 디스플레이 출력이 없으며 서버 섀시의 방향성 에어플로에 의존해 냉각합니다. 일반 타워나 데스크톱 케이스에 넣으면 냉각 불량 및 과열로 인한 클럭 다운이 발생할 수 있으므로, 부득이하게 사용하려면 터빈 쿨링 커버를 별도로 장착하고 에어플로를 검증해야 합니다.
중고 P40 구매 시 어떻게 검수해야 하나요?
장착 후 nvidia-smi와 deviceQuery로 PCIe 링크가 Gen3 x16인지, 메모리 용량과 온보드 ECC 상태를 확인하고 GPU Boost 클럭이 정상인지 점검하세요. 이후 지속적인 풀 로드 스트레스 테스트로 온도와 안정성을 관찰하고, ECC 에러 카운트를 확인해 메모리 불량과 채굴/고부하 사용 이력을 검증하세요. 동시에 쿨러의 서멀 구리스와 팬 환경의 재정비 필요 여부도 확인하세요.
심층 읽기:NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목AIXX Pedia · 심층 항목
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공