跳至正文返回首页Cloudflare 披露 GLM-5.3 跨请求 KV 缓存泄露:155 条超长提示响应受影响
- 事件与影响:2026 年 8 月 27 日至 9 月 9 日,Workers AI 上的 GLM-5.3 在极长提示下返回了其他客户此前请求中的数据;受影响响应共 155 条,均对应超过 681,280 token 的提示。9 月 8 日经 HackerOne 收到报告,9 月 9 日模型下线并在 40 分钟内复现问题,随后修复恢复。
- 根因拆解:Cloudflare 为 GLM-5.3 配置了 1,048,576 token 上下文,但 prefill GPU 的 KV 缓存池仅能容纳 681,280 token;SGLang 在 disaggregated prefill/decode 模式下将超长请求标记为拒绝并替换为 1-token 占位符,但拒绝状态未阻止请求进入传输,decode 节点读取了未被本请求覆盖的旧 KV 页。
- 修复与上游:Cloudflare 将 prefill KV 池扩至约 204 万 token,并补丁让被拒绝请求在 admission 队列提前退出;SGLang v0.5.20 至 v0.5.22 合并相关修复,包括拒绝路径、延迟释放、传输校验和等。Cloudflare 建议运营方核对 KV 池与上下文长度,并升级至 v0.5.22 或以上。
- 行业意义:这是生产推理栈多租户隔离的具体失效案例:KV 缓存页未清零且跨节点传输,错误路径可直接暴露其他请求内容。对自建 SGLang disaggregated 部署的团队,配置校验、拒绝路径与传输完整性检查需要同时覆盖,而不能只依赖 HTTP 状态码或吞吐测试。
🔗 Cloudflare 官方博客 | SGLang 协调披露
