Hacker News· moelove·· 4 天前精选推荐指数88
SGLang 披露 PD 分离架构下跨请求 KV cache 泄漏漏洞
Cross-request KV cache leakage in SGLang PD disaggregation
AI 导读
SGLang 与 Cloudflare 联合披露 SGLang PD（prefill/decode）分离架构中的跨请求 KV cache 泄漏问题：Cloudflare 在 Workers AI 上部署的 GLM-5.3 于 2026 年 8 月 27 日至 9 月 9 日期间受影响，超出 prefill KV cache 容量的请求可能返回其他用户会话内容。
推荐理由
原文完整拆解了跨请求 KV cache 泄漏的成因、复现方法与修复链路，读者可据此评估自身 PD 分离部署的暴露面。
来源：Hacker News · lmsys.org