AI 팩토리(AI Factory)는 NVIDIA가 초대규모 AI 인프라를 설명하는 전략적 내러티브다. '한 대의 서버'나 '하나의 클러스터'가 아니라 '데이터를 원재료로, GPU를 생산 라인으로, 지능을 제품으로 하는 공장'이라는 관점으로, 컴퓨팅(GPU 랙), 네트워크(NVLink+패브릭), 스토리지(데이터 파이프라인), 소프트웨어(학습/추론 플랫폼), 전력과 냉각까지 풀스택 설계를 포괄한다.
구매자에게 의미하는 바: AI 팩토리 개념은 구매 단위를 '서버 구매'에서 '생산 라인 기획'으로 끌어올린다. 랙 배치, 네트워크 토폴로지, 스토리지 처리량, 전력 용량, 냉각 방안, 운영 플랫폼을 모두 통합 설계에 포함해야 한다. GB200/GB300 NVL72가 AI 팩토리의 '생산 라인 유닛'이고, Spectrum-X800/Quantum-X800이 '물류 시스템', NVMe 올플래시가 '원자재 창고'에 해당한다.
| 항목 | 수치 / 기준 |
|---|---|
| NVIDIA 정의 | 컴퓨팅+네트워크+스토리지+소프트웨어+전력+냉각의 풀스택 |
| 핵심 KPI | Token 처리량 / 모델 학습 시간 / GPU 활용률 |
| 생산 라인 유닛 | GB200/GB300 NVL72 랙 |
| 물류 시스템 | Quantum-X800 / Spectrum-X800 fabric |
B300/GB300 NVL72는 AI 팩토리의 생산 라인 유닛이다. AI 팩토리 개념은 구매 관점을 '장비 구매'에서 '라인 구축'으로 바꿔준다. 같은 예산이라면 'GPU 수 최대화'보다 'GPU 활용률 극대화'가 더 가치 있으며, 패브릭 설계, 스토리지 처리량, 냉각 효율이 모두 활용률에 영향을 주는 요인이다.