NVIDIA 将 Reflection Beam 单卡吞吐从 70K 提升至约 90K
- 前情提要:Reflection AI 昨日发布首个开源权重模型 Beam(501B 总参数/23B 激活 MoE,Apache 2.0 许可),官方称其在 Blackwell Ultra 上 day-0 吞吐超 70K tokens/秒/GPU;Beam 随后陆续上线 Ollama、AWS SageMaker 与 OpenRouter 等分发渠道。
- 最新进展:NVIDIA AI 官方表示,工程师在发布后继续优化,Beam 单卡吞吐已从 70K 提升至约 90K tokens/秒。
- 信息边界:NVIDIA 未披露优化路径、测试配置、输入长度与是否已同步至所有分发渠道,也未见第三方复现;该数字目前仍属官方口径。
- 行业意义:同一份开源权重在发布数日内由硬件方继续压榨吞吐,说明 500B 级 MoE 的部署成本是硬件、运行时与分发入口协同优化的结果,而非一次性发布即定档。
