SECTIONS
EDITIONS
NETWORK
萬安百科 › 机型词条 › 寒武纪 思元370（MLU370-X8）
示意配图（AI 生成·非官方产品图）· 萬安百科
寒武纪 思元370（MLU370-X8）
chiplet 芯粒 · 256 TOPS INT8 / 96 TFLOPS FP16 · 48GB · 国产算力卡词条
概述OVERVIEW
思元370 是寒武纪第三代云端 AI 芯片（2021-11-03 发布，官方发布稿口径）：国内首款 chiplet（芯粒） 架构 AI 芯片，台积电 7nm、390 亿晶体管、MLUarch03 架构、最大 256 TOPS INT8（官方口径）。 加速卡主力形态 MLU370-X8（官网产品页 2026-11 核验）：双芯思元370、256 TOPS INT8 / 96 TFLOPS FP16(BF16) / 24 TFLOPS FP32、48GB LPDDR5 · 614.4GB/s、MLU-Link 聚合 200GB/s（PCIe 4.0 的 3.1 倍）、250W 被动散热双槽——推训一体的国产中坚档。
沿革HISTORY
- 2021-11-03：思元370 发布（chiplet 首秀，官方发布稿口径）。
- 2022-03-21：MLU370-X8 加速卡发布——双芯四芯粒配置，面向中高端训练场景（官方口径）。
- 现役：官网产品页 X8/X4/S4 系列在列（2026-11 核验）；新代思元590 公开信息有限（官方未公布完整规格表）。
代际对比GENERATIONS
| 维度 | 思元270（前代） | 思元370 / X8（本词条·官方口径） | 思元590（新代） |
|---|---|---|---|
| 架构 | MLUarch02 | MLUarch03 · chiplet 芯粒 | 新代（规格未公开完整表） |
| INT8 | 官方发布稿为准 | X8 卡 256 TOPS | — |
| FP16 | — | X8 卡 96 TFLOPS（BF16 同） | — |
| 显存 | — | X8 卡 48GB LPDDR5 · 614.4GB/s | — |
| 互联 | — | MLU-Link 200GB/s 聚合 | — |
口径：本词条列=寒武纪官网产品页（2026-11 核验）+官方发布稿；前后代官方未公布完整可比数字处不代填——以官网与规格书为准。
技术规格SPECS
| 项目 | 规格（官网产品页口径） |
|---|---|
| 芯片 | 双芯思元370（双槽位全尺寸卡） |
| AI 算力 | 256 TOPS INT8 · 96 TFLOPS FP16/BF16 · 24 TFLOPS FP32 · INT16 128 TOPS |
| 显存 | 48GB LPDDR5 · 带宽 614.4GB/s |
| 互联 | MLU-Link 4 ports / 16 Lanes / 50Gbps · 聚合 200GB/s（PCIe 4.0 的 3.1 倍） |
| 总线 | PCIe Gen4 x16 |
| 功耗 | 250W 最大（被动散热 · 全高全长双槽位） |
| 制程 | 7nm · 390 亿晶体管（官方发布稿） |
| 精度 | FP32/FP16/BF16/INT16/INT8/INT4 · 单机八卡部署 |
模型适配MODEL FIT
| 场景 | 48GB/614.4GB/s 的适配口径（推算：权重×精度+开销） |
|---|---|
| 7B–14B 级 | FP16 全量贴上限；量化档多路并发舒适（推算口径） |
| 30B 级 | INT8/4-bit 量化可容（推算口径）——MLU-Link 八卡协同扩并行 |
| INT4/INT8 推理 | 量化算力档为本代放大器（官方精度列表口径）——视频/文本批处理场景 |
更大模型档——去模型广场按需调用
萬安云 · 模型广场 →局限与边界LIMITS
- 带宽中档：614.4GB/s（LPDDR5）非 HBM 档——解码吞吐按带宽核算（对照 950PR 1.4TB/s）。
- 新代信息真空：思元590 官方规格表未公开——跨代选型缺可比数字（2026-11 核验）。
- 生态迁移：CUDA 栈走寒武纪软件栈适配——算子覆盖与框架版本匹配是部署第一问（生态对照见 CUDA）。
常见问题FAQ
思元370 的 chiplet 是什么？
寒武纪第三代云端芯片（2021-11 发布·官方发布稿口径）：国内首款采用 chiplet（芯粒）技术的 AI 芯片——7nm、390 亿晶体管、MLUarch03 架构，最大算力 256 TOPS INT8（官方口径）。
X8 卡的显存为什么是 LPDDR5 不是 HBM？
官方页口径 LPDDR5 48GB、带宽 614.4GB/s——定位决定选型：LPDDR5 容量成本比高、适合推训中档；HBM 档带宽高但成本上探——带宽敏感的超大模型吞吐要按 614.4GB/s 实测核算。
思元590 什么时候能买？
新代旗舰公开信息有限：官方未公布完整规格表（2026-11 核验）——本词条不代填数字；流通采购以厂商规格书为准，中档推训现役看 X8 档。