研究揭示 LLM Agent 持久记忆的自我强化隐私泄露循环
一项 arXiv 论文通过多会话模拟发现,LLM Agent 的持久记忆在提升回复质量的同时也提高了经验泄露率,即从完整对话记录中正确推断出属性值的比例,且该差距随会话轮次扩大。
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
作者提出 CAPSafe 基准,从动作级和规划级两个层面评估大模型驱动的具身智能体安全推理能力,其中动作级判断单个动作在给定环境上下文中是否安全,规划级评估智能体能否为复杂危险家务任务生成安全的长程规划。