SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA L4

추론 쪽 주력 저전력 카드, 국내 현물 유통량이 많은 B등급 롱테일 대표 모델
NVIDIA L4 제조사 공식 이미지
NVIDIA 공식 제조사 이미지

실물 촬영

NVIDIA L4 실물 사진NVIDIA L4 실물 사진
실물 촬영 이미지

개요

NVIDIA L4는 추론 시나리오를 겨냥한 저전력 데이터센터 GPU로, AD104 칩 기반이며 PCIe 인터페이스의 싱글 슬롯 로우프로파일(low-profile) 폼팩터를 채택했습니다. 24GB 메모리를 탑재하고 메모리 대역폭은 300GB/s, FP32 연산 성능은 30.3 teraFLOPs, FP8 Tensor Core 성능은 최대 485 teraFLOPS에 도달합니다. TDP는 72W에 불과해 일반 서버 환경에서 대규모 배치가 가능하며, 대규모 언어 모델 추론, 이미지 및 영상 처리 등 전력 효율에 민감한 워크로드에 널리 사용됩니다.

핵심 스펙

메모리24 GB GDDR6
메모리 대역폭300 GB/s
FP32 연산 성능30.3 teraFLOPS
FP8 연산 성능485 teraFLOPS
전력 소모 TDP72 W
인터커넥트PCIe Gen4 x16
폼팩터1-slot low-profile
코덱NVENC 2 | NVDEC 4 | JPEG 4
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크,2026-10-09 업데이트)· 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

구매 및 검수 포인트

자주 묻는 질문

NVIDIA L4는 어느 정도 규모의 대형 모델 추론이 가능한가?
L4는 24GB 메모리를 탑재해 대부분의 수십억 파라미터급 모델을 온전히 수용할 수 있으며, 양자화(예: FP8/INT8)를 통해 더 큰 파라미터 수의 모델도 처리할 수 있습니다. 초대형 모델의 경우 일반적으로 텐서 병렬화로 여러 장에 분할해야 하지만, L4는 PCIe Gen4 x16 인터커넥트(64GB/s)를 사용해 멀티 GPU 협업 시 통신 대역폭이 NVLink 방식보다 낮으므로 실제 추론 지연을 평가해야 합니다.
L4는 72W 소비전력뿐인데 성능이 부족하지 않을까?
72W의 TDP는 이 제품이 학습용이 아닌 전력 효율 우선의 추론 카드로 포지셔닝되어 있음을 의미합니다. FP8 Tensor Core 성능은 최대 485 teraFLOPS, INT8은 485 TOPs에 도달하며, 저전력 덕분에 범용 서버에서 고밀도 배포가 가능합니다. 추론 및 영상 처리 워크로드에 적합하지만 대규모 학습용으로는 부적합합니다.
L4를 일반 1U/2U 서버에 장착할 수 있는가?
가능합니다. L4는 1-slot 로우프로파일 설계로 PCIe 인터페이스로 전원과 통신을 모두 공급받아 별도 전원 케이블이 필요 없으며, 섀시 호환성 요구 수준이 낮습니다. 배포 시에는 해당 슬롯의 냉각 공기 흐름과, 64GB/s 인터페이스 대역폭을 온전히 활용하기 위해 메인보드가 PCIe Gen4 x16 슬롯을 제공하는지를 주로 확인하면 됩니다.
심층 읽기:L4 심층 항목 · 심층 항목NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목
자료 업데이트 2026-10-09 · 심층 항목으로 이동 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공