微软公布 Maia 300:2027 年启动多吉瓦推理,能效口径遭质疑
- 核心发布:微软宣布自 2027 年起将 Maia 加速器家族扩展至多吉瓦级部署,使其成为微软自有产品的主要推理系统。
- 架构设计:Maia 300 把 scale-up 与 scale-out 合并到同一以太网 fabric,KV 状态在 prefill worker 与 decode worker 之间迁移时不离开该 fabric,以减少跨网络的中间传输。
- 争议焦点:从业者对官方主打的 tokens-per-watt 效率指标提出质疑,认为该口径与实际负载之间存在落差。
- 行业意义:自有推理硅进入多吉瓦规划,意味着超大规模推理的芯片路线与能效主张开始被放到公开场合比较,而能效指标是否可被第三方复核,成为比绝对吞吐更关键的观察点。 🔗 InfoQ
