Anthropic 披露 AI 评审 AI 代码的轮次失控与解法:三轮封顶
- 前情提要:Claude 编写约 90% 的 Claude Code 代码,2026 年 6 月至 9 月合并 PR 数量翻倍、回退占比下降超 40%;Anthropic 此前已公开评审流水线——提 PR 前自行运行测试与构建、多个 AI agent 找 bug 并投票过滤误报、按风险分级配置 0/1/2 名人工审批、合并队列与 feature flag 灰度。
- 最新披露的失控问题:曾有一个 agent 写的 CLI PR 一夜跑了 50+ 轮评审,git blame 显示约 59% 被标记的代码在第一轮之前就存在——评审 agent 在翻旧账而非审新变更。这是 AI 评审 AI 代码时特有的死循环。
- 收敛解法与效果:三轮封顶(超过即退回重新考虑方案)、后续轮次只看增量 diff、标记 bug 类别而非单行、禁止重复发现;一轮通过率从 65% 提升至 78%,5 轮以上 PR 占比从 8.9% 降至 1.5%,平均评审轮次从 2.08 降至 1.32。
- 度量口径的转变:不追踪“评审覆盖率”这类虚荣指标,转而追踪“每个 PR 平均几个人类审批”与“等人审批的等待时间”,以 revert 率与事故率作为护栏指标;内部 PR 上“实质性评审意见”占比从 16% 升至 54%,千行以上大 PR 几乎总能查出问题。
- 评审器自身的 eval:过去引发事故的 PR(经专家确认)构成一个 eval 集,评审器每天跑分,只有分数提升的改动才被保留;噪声通过“人对评论的反应”和“在已知干净的 PR 上跑评审器”来度量。这本质上是把评审质量从主观感受变成可优化的目标函数。
🔗 Anthropic 博客 | meng shao 详细解读 | ClaudeDevs 原帖
