萬安百科 › 机型词条 › AWS Trainium(Trainium2)

AWS Trainium 是亚马逊自研的 AI 训练/推理加速器线(云端专供)。现役主力 Trainium2 (2024-12-03 GA,AWS 官方口径):单芯片最高 1.3 PF 稠密 FP8(稀疏 5.2 PF)· 3.2Tbps EFA 网络;经 NeuronLink 组装——Trn2 实例(16 芯)= 20.8 PF FP8 稠密,Trn2 UltraServer(64 芯)= 83.2 PF FP8(官方口径)。锚点案例:Project Rainier——AWS×Anthropic 的数十万颗 Trainium2 集群(全球最大 AI 算力集群之一,官方/媒体口径),Claude 系列训练底座。
| 维度 | Trainium1 | Trainium2(本词条·官方口径) | Trainium3(候发) |
|---|---|---|---|
| GA | 2021-2022 | 2024-12-03 | 2024-12 预告(GA 候官方) |
| FP8 稠密 | 官方页为准 | 1.3 PF/芯(稀疏 5.2 PF) | — |
| 实例形态 | trn1(16 芯) | Trn2 16 芯=20.8 PF · UltraServer 64 芯=83.2 PF | — |
| 能效 | — | 官方基线 | +4×/W(官方预告口径) |
| 锚点 | — | Project Rainier(数十万芯级) | — |
口径:Trainium2 列=AWS 官方页/官方博客(2026-11 核验);Trainium3 列=官方预告口径(细节未公开不代填)。与 GPU 代际不可直比。
| 项目 | 规格(AWS 官方口径) |
|---|---|
| 芯片 | Trainium2(AWS 自研 ASIC) |
| 算力 | 最高 1.3 PF 稠密 FP8 / 芯(稀疏 5.2 PF) |
| 互联 | NeuronLink 组网 · EFA 网络 3.2Tbps(官方口径) |
| 实例 | Trn2(16 芯 · 20.8 PF FP8)· Trn2 UltraServer(64 芯 · 83.2 PF FP8) |
| 利用率 | 稠密负载 95%+ 集群利用率(官方口径) |
| 供给形态 | AWS EC2 专属(按需/预留·无零售卡形态) |
| 软件栈 | AWS Neuron SDK(PyTorch / JAX 适配)· SageMaker 托管 |
| 场景 | 适配口径 |
|---|---|
| 大模型训练 | UltraServer 64 芯=83.2 PF FP8(官方)+Project Rainier 实证——超大规模训练可选底座 |
| 推理 | Trainium2 推理实例与 CloudPining 类服务(AWS 口径)——云上租用形态 |
| 栈锁定提醒 | Neuron SDK 生态——CUDA 资产迁移评估先于选型(生态对照见 CUDA) |