返回首页

Perplexity Decider Flash 本地实测:16GB M4 Mac 可运行,速度约为 Wald 两倍

  • 前情提要:Perplexity 此前开源 pplx-decider-v1.2(27B)与 pplx-decider-flash-v1.2(4B)两款多模态决策模型,权重发布于 Hugging Face,并陆续上线 Perplexity Decisions API、OpenRouter 与 Vercel AI Gateway,官方定价 flash 输入 1 美分/百万 token。

  • 最新实测:Perplexity CEO Aravind Srinivas 转评第三方测试,称 Decider Flash 可在 16GB M4 Mac 上本地快速运行;测试者 Wolfram Ravenwolf 在 16GB Mac mini 上测得,该模型在合成 Agent 决策、真实邮件线程与提示注入等测试中匹配 Wald 的准确率,速度接近两倍。

  • 信息边界:上述结果来自单条推文与第三方个人测试,未披露测试集规模、Wald 的确切版本与运行配置、端到端延迟与内存占用数据;结论目前不能外推为 Decider Flash 在通用决策任务上的性能排序。

  • 行业观察:决策模型作为低单价、可校准的独立调用层,此前主要经 API 与聚合路由分发;本地运行的可行性被第三方验证后,端侧 Agent 门控与路由的部署选项增加——对隐私敏感或网络受限的环境,4B 模型可在不调用外部 API 的情况下完成放行判断,但实际任务覆盖范围与误判率仍需更大规模评测。

🔗 Aravind Srinivas 推文 | Wolfram Ravenwolf 原帖