arXiv 论文提出 LLM Agent 长期记忆治理状态损坏的跨模型压力测试
论文研究 LLM Agent 长期记忆中的治理状态损坏问题,即存储内容与任务不变时,故障改变了哪些记忆记录进入模型可见上下文。研究覆盖 6 家厂商、731 个基准支撑的记忆库,产生 2,080 组配对故障;离线控制面检查中 96.25% 的配对改变了操作投影,oracle 支持的强制执行 100% 恢复。
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
论文研究 LLM Agent 长期记忆中的治理状态损坏问题,即存储内容与任务不变时,故障改变了哪些记忆记录进入模型可见上下文。研究覆盖 6 家厂商、731 个基准支撑的记忆库,产生 2,080 组配对故障;离线控制面检查中 96.25% 的配对改变了操作投影,oracle 支持的强制执行 100% 恢复。