AI 客栈
返回首页

LangChain 披露 LangSmith AI Search：结构化过滤加小模型并行校验检索 Agent 轨迹

  • 核心机制：SmithDB 把 trace 转为可读 trajectories。搜索时先用时间范围等结构化 filters 缩小候选，再由 small fast model 检查每个剩余 trajectory 是否符合用户描述；校验并行执行，单次通常低于半秒，匹配结果边发现边流式返回，不需要等待完整扫描。
  • Token 预算与样本：AI Search 在固定 token budget 内读取每条 trajectory。LangChain 统计了团队日常使用的 coding agent Open SWE 的 150 条对话：中位轨迹 84K tokens，其中约 1.5K 为用户消息与 agent 最终回复，约四分之三为工具输出，包括文件读取、shell 命令与测试日志。
  • 行业意义：Agent 可观测性从“保存完整 trace”推进到“让 trace 可检索、可对行为提问”。把结构化过滤与小模型校验分层，可降低长轨迹检索的延迟与计算成本；当前公开样本仅来自内部 coding agent，跨任务泛化能力与误检率仍待更多数据验证。 🔗 LangChain 线程 1 | 线程 2 | 线程 3 与博客
Tweet Image