寒武纪新一代智能处理器微架构:针对大模型训练推理优化

Read in English

国产 AI 芯片的迭代方向正在越来越明确地对准大模型。10 月 26 日,寒武纪董事长、总经理陈天石在业绩会上表示,公司新一代智能处理器微架构及指令集,将针对自然语言处理大模型、视频图像生成大模型以及垂直类大模型的训练推理场景进行重点优化。

国产 AI 芯片的竞争前置:编程生态先于算力指标

陈天石列出的提升维度包括编程灵活性、易用性、性能、功耗和面积。这个组合透露的信息比较明确:前两项针对的是生态短板——对 AI 芯片来说,算力指标再高,如果开发者写不惯、迁移成本高,就很难从英伟达 CUDA 生态里分走负载;性能、功耗、面积则是数据中心客户做采购决策时的硬指标。

训练与推理双场景并重也符合当前市场的收益结构:训练负载集中在少数头部公司,而推理负载随着大模型应用铺开快速增长,是 AI 芯片更宽阔的增量市场。

国产 AI 算力从能用走向好用

寒武纪是国内 AI 芯片设计公司的代表之一,其产品迭代节奏直接影响国内大模型公司的算力选项。新一代微架构如果如期落地,叠加国产大模型对本土算力的需求增长,国产 AI 芯片在"能用"向"好用"过渡上的进度条会继续推进。

观察后续两件事就够:一是新一代处理器的具体规格与量产时间,二是实际客户在训练任务中的采用情况——后者才是检验生态建设的最终标尺。