跳至正文返回首页硅谷圆桌讨论 Agent 落地瓶颈：长期任务可靠性、安全授权与责任归属
- 事件背景：「科技早知道」主播 Diane 在硅谷 Builder Odyssey 活动现场主持圆桌，与 Nebius 首席 AI 工程师 Jiaao Chen、Photon 联合创始人 Daniel Tian、硅谷投资人 Howie 等讨论了 Personal Agent 从技术演示走向大规模应用还缺少哪些关键能力。背景是 Meta 的 Muse、OpenAI 的 Dots 等 Personal Agent 产品近期大火，模型调用工具、规划任务的能力显著提升。
- 长期任务的错误代价：Long-horizon task 指需要数百至上千步骤、持续数小时乃至数天才能完成的复杂任务。当执行时间拉长，Agent 可能因上下文压缩遗忘最初目标，或在具体操作中出错——用户要求订到上海浦东机场，Agent 却订到虹桥，退改签费用与隐私泄露带来真实损失，而现有软件环境并不具备完善的错误恢复机制。
- 人机确认机制：与会者认为 Human-in-the-loop 仍然关键——当 Agent 无法确定下一步操作时，应通过短信或电话向用户确认，而非擅自作出可能造成损失的决定。Photon 的做法是让 Agent 直接通过 iMessage、WhatsApp、电话等现有通信渠道与用户互动，使持续运行的 AI 助理不必局限在独立 App 内。
- 安全与信任的建立：从个人数据泄露到 AI 助理频繁拨打商家电话，Agent 需要新的行为监管、安全授权与透明机制。用户不仅需要知道 Agent 最终完成了什么，还希望能够查看其执行过程——访问了哪些数据、向谁披露了个人信息、花费了多少金额。与会者以一家以免费披萨吸引用户连接 Gmail 的创业公司为例：大量用户愿意用个人数据换取便利，但集中涌入的订单暴露出系统崩溃、错误扣费和配送地址出错等问题。
- 基础设施的创业机会：与会者判断，简单的工具调用和 Prompt Engineering 可能被更强的模型吸收，但执行效率、高并发处理与垂直行业模型适配仍值得长期投入。企业可以结合专业数据，把开源模型训练成适合特定业务的 Agent，在降低成本的同时提升效率。
🔗 播客原链接
