스펙 카드 SPEC CARD
NVIDIA L40S
Ada 세대 48GB 싱글 카드 추론/렌더링/Omniverse 올라운더, FP8 스파스 1,466TF + AV1 코덱 지원, 현재 국내 현물 유통량이 가장 많은 대용량 메모리 Ada 카드 중 하나

NVIDIA 공식 제조사 이미지
실물 촬영
실물 촬영 이미지
개요
NVIDIA L40S는 Ada Lovelace 아키텍처 기반의 PCIe 듀얼 슬롯 데이터센터 GPU로, 48GB GDDR6 메모리(ECC 지원)와 864GB/s 메모리 대역폭을 갖추고 있으며, PCIe Gen4 x16을 통해 양방향 64GB/s 인터커넥트를 제공합니다. 18,176개의 CUDA 코어, 3세대 RT Core 142개, 4세대 Tensor Core 568개를 탑재했으며, FP8 Tensor Core 연산 성능은 스파스 기준 최대 1,466 TFLOPS에 달합니다. 또한 3세트의 NVENC/NVDEC 코덱 유닛을 통합해 AV1 인코딩/디코딩을 지원합니다. 대용량 메모리, 높은 연산 성능, 영상 처리 능력의 조합 덕분에 L40S는 대규모 모델 추론, 이미지 생성, 레이 트레이싱 렌더링, Omniverse 등 디지털 트윈 워크로드에 널리 사용되며, 국내 현물 유통량이 많은 대용량 메모리 Ada 카드 중 하나입니다.
핵심 스펙
| 아키텍처 | NVIDIA Ada Lovelace architecture |
| 메모리 | 48 GB GDDR6 with ECC |
| 메모리 대역폭 | 864 GB/s |
| FP32 연산 성능 | 91.6 teraFLOPS |
| FP16 연산 성능 | 733 teraFLOPS* |
| FP8 연산 성능 | 1,466 teraFLOPS* |
| 전력 소모 TDP | 350 W |
| 인터커넥트 | PCIe Gen4 x16 |
| 폼팩터 | 4.4" (H) x 10.5" (L), dual slot |
| 코덱 | 3x (includes AV1 encode and decode) |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크,2026-10-09 업데이트)· 실제 가격은 판매자 제시가 기준
적용 시나리오
- 대규모 언어 모델 및 멀티모달 모델의 싱글 카드 또는 소규모 클러스터 추론 배포, 48GB 메모리로 상당한 파라미터 수의 모델과 긴 컨텍스트 처리 가능
- FP8/INT8 양자화 기반 고성능 추론 서비스, 1,466 TFLOPS(스파스) Tensor Core 연산 성능으로 처리량 향상
- 3세대 RT Core 142개를 활용한 오프라인 및 실시간 레이 트레이싱 렌더링, 시각화 및 콘텐츠 제작
- Omniverse 및 디지털 트윈 애플리케이션, 3세트 NVENC/NVDEC(AV1 포함)를 활용한 대량 영상 트랜스코딩 및 스트리밍 처리
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
영상 해설 VIDEO
구매 및 검수 포인트
- 서버 및 서버룸 전원 공급에 주의: L40S 단일 카드 최대 소비 전력은 350W이며 16-pin 전원 커넥터를 사용하므로, 시스템에 상응하는 여유 전원과 케이블을 확보해야 하고 랙 전력 밀도를 이에 맞춰 계획해야 합니다
- 냉각 및 섀시 폼팩터 확인: 이 카드는 패시브 냉각 방식의 듀얼 슬롯 풀하이트 디자인으로, 크기는 약 4.4인치(높이) x 10.5인치(길이)이며, 충분한 에어플로우를 갖춘 서버에 장착해야 하고 일반 데스크톱 케이스에는 직접 사용할 수 없습니다
- 인터커넥트 및 배포 토폴로지: L40S는 PCIe Gen4 x16(양방향 64GB/s)만 지원하며 NVLink와 MIG 파티셔닝을 지원하지 않습니다. 카드 간 통신은 PCIe와 호스트 측 네트워크를 거쳐야 하므로, 구매 시 카드 간 대역폭에 대한 비즈니스 요구 사항을 고려해 선택해야 합니다. 아울러 Secure Boot 및 NEBS Level 3 인증이 도입 환경에 갖는 의미도 확인해 두는 것이 좋습니다
자주 묻는 질문
NVIDIA L40S 메모리 용량은? 대규모 모델 추론에 충분한가?
L40S는 48GB GDDR6 메모리를 탑재했으며 ECC를 지원하고 메모리 대역폭은 864GB/s입니다. 추론 관점에서 48GB는 상당한 파라미터 수의 모델을 수용할 수 있고, 양자화를 통해 용량을 더 확장할 수 있어 대부분의 싱글 카드 추론 배포 요구에 적합합니다.
L40S는 NVLink와 MIG를 지원하나? 멀티 GPU 학습은 어떻게?
L40S는 NVLink 인터커넥트를 지원하지 않으며, Multi-Instance GPU(MIG) 파티셔닝도 지원하지 않습니다. 카드 간 통신은 PCIe Gen4 x16(양방향 64GB/s)로만 이루어지므로 추론, 렌더링 등의 시나리오에 더 적합합니다. 카드 간 고대역폭 통신에 민감한 워크로드(대규모 멀티 GPU 학습 등)라면 네트워크 설계 단계에서 별도의 검토가 필요합니다.
L40S의 영상 코덱 성능은? AV1 처리가 가능한가?
가능합니다. L40S는 NVENC 인코더 3세트와 NVDEC 디코더 3세트를 통합하고 있으며, AV1 인코딩 및 디코딩 하드웨어 지원을 포함합니다. 영상 트랜스코딩, 스트리밍 처리, 렌더링/Omniverse와 결합된 그래픽 영상 생성 워크로드에 적합합니다.
자료 업데이트 2026-10-09 · 심층 항목으로 이동
편집 방침 프로세스