返回首页

UC Berkeley 论文:研究 Agent 的扩展瓶颈是「不遗忘」

  • 问题诊断:研究 Agent 的常见做法是保留完整会话历史并在其上迭代。运行一段时间后,每个 Agent 会锚定在自己过去的尝试上,编辑幅度越来越小,追加的预算不再带来改进。论文将这一现象归因于历史本身对探索空间的约束。
  • 方法设计:系统定期丢弃每个 Agent 的 session 与候选历史,再从目前找到的最优候选重启。论文对这一机制的定位是「诱导遗忘」(inducing forgetting),即把已探索路径的上下文视为需要主动清理的状态,而非应当保留的资产。
  • 评测结果:在启发式编程、内核优化与模型训练三类任务上,该机制相比并行运行的 Agent 提升最多 15%,相比同等预算下的单 Agent 提升最多 39%。
  • 行业意义:Agent 系统的能力调优正在从提示与工具层,延伸到上下文生命周期的管理。当并行采样、多次重启这类探索策略被广泛采用,丢弃历史的时机与粒度会成为与检索、记忆写入同等重要的可调参数;对长时运行的研究型 Agent 而言,保留全部上下文不等于保留全部价值。 🔗 论文 arXiv:2610.20563 | Chat with Paper | 原推文
Tweet Image