arXiv· Masahiro Kaneko·· 10 天前推荐指数60
研究揭示 LLM Agent 持久记忆的自我强化隐私泄露循环
Disclosure Begets Disclosure: A Self-Reinforcing Privacy Loop in LLM Agents with Persistent Memory
AI 导读
一项 arXiv 论文通过多会话模拟发现，LLM Agent 的持久记忆在提升回复质量的同时也提高了经验泄露率，即从完整对话记录中正确推断出属性值的比例，且该差距随会话轮次扩大。
来源：arXiv · arxiv.org