SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA L40S

Ada 세대 48GB 싱글 카드 추론/렌더링/Omniverse 올라운더, FP8 스파스 1,466TF + AV1 코덱 지원, 현재 국내 현물 유통량이 가장 많은 대용량 메모리 Ada 카드 중 하나
NVIDIA L40S 제조사 공식 이미지
NVIDIA 공식 제조사 이미지

실물 촬영

NVIDIA L40S 실물 사진NVIDIA L40S 실물 사진
실물 촬영 이미지

개요

NVIDIA L40S는 Ada Lovelace 아키텍처 기반의 PCIe 듀얼 슬롯 데이터센터 GPU로, 48GB GDDR6 메모리(ECC 지원)와 864GB/s 메모리 대역폭을 갖추고 있으며, PCIe Gen4 x16을 통해 양방향 64GB/s 인터커넥트를 제공합니다. 18,176개의 CUDA 코어, 3세대 RT Core 142개, 4세대 Tensor Core 568개를 탑재했으며, FP8 Tensor Core 연산 성능은 스파스 기준 최대 1,466 TFLOPS에 달합니다. 또한 3세트의 NVENC/NVDEC 코덱 유닛을 통합해 AV1 인코딩/디코딩을 지원합니다. 대용량 메모리, 높은 연산 성능, 영상 처리 능력의 조합 덕분에 L40S는 대규모 모델 추론, 이미지 생성, 레이 트레이싱 렌더링, Omniverse 등 디지털 트윈 워크로드에 널리 사용되며, 국내 현물 유통량이 많은 대용량 메모리 Ada 카드 중 하나입니다.

핵심 스펙

아키텍처NVIDIA Ada Lovelace architecture
메모리48 GB GDDR6 with ECC
메모리 대역폭864 GB/s
FP32 연산 성능91.6 teraFLOPS
FP16 연산 성능733 teraFLOPS*
FP8 연산 성능1,466 teraFLOPS*
전력 소모 TDP350 W
인터커넥트PCIe Gen4 x16
폼팩터4.4" (H) x 10.5" (L), dual slot
코덱3x (includes AV1 encode and decode)
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크,2026-10-09 업데이트)· 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

구매 및 검수 포인트

자주 묻는 질문

NVIDIA L40S 메모리 용량은? 대규모 모델 추론에 충분한가?
L40S는 48GB GDDR6 메모리를 탑재했으며 ECC를 지원하고 메모리 대역폭은 864GB/s입니다. 추론 관점에서 48GB는 상당한 파라미터 수의 모델을 수용할 수 있고, 양자화를 통해 용량을 더 확장할 수 있어 대부분의 싱글 카드 추론 배포 요구에 적합합니다.
L40S는 NVLink와 MIG를 지원하나? 멀티 GPU 학습은 어떻게?
L40S는 NVLink 인터커넥트를 지원하지 않으며, Multi-Instance GPU(MIG) 파티셔닝도 지원하지 않습니다. 카드 간 통신은 PCIe Gen4 x16(양방향 64GB/s)로만 이루어지므로 추론, 렌더링 등의 시나리오에 더 적합합니다. 카드 간 고대역폭 통신에 민감한 워크로드(대규모 멀티 GPU 학습 등)라면 네트워크 설계 단계에서 별도의 검토가 필요합니다.
L40S의 영상 코덱 성능은? AV1 처리가 가능한가?
가능합니다. L40S는 NVENC 인코더 3세트와 NVDEC 디코더 3세트를 통합하고 있으며, AV1 인코딩 및 디코딩 하드웨어 지원을 포함합니다. 영상 트랜스코딩, 스트리밍 처리, 렌더링/Omniverse와 결합된 그래픽 영상 생성 워크로드에 적합합니다.
심층 읽기:L40S 심층 항목 · 심층 항목L40S vs RTX-6000-ADA · 심층 항목L40S vs MI350X · 심층 항목NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목
자료 업데이트 2026-10-09 · 심층 항목으로 이동 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공