看学术

AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。

共 4 条 · 更新于 07:32

10月27日周二

10月27日星期二

15:00
ShortSpan· 15:00推荐指数7575
AfterDeleteBench 审计 LLM Agent 删除记忆后的信息残留
AfterDeleteBench 是一项针对固定权重 LLM Agent 外部持久记忆的受控行为审计：对每个合成密钥，比较一个先暴露后删除源记录的 Agent 与一个从未见过该密钥的配对 Agent。
安全论文安全研究 #论文/研究 #C04 AI基础设施安全 #隐私保护提取与窃取监控与溯源检测与护栏 RAG 与知识库通用与多智能体基准测试集

10月22日周四

10月22日星期四

10月21日周三

10月21日星期三

15:06
arXiv· 15:06推荐指数5555
ClawMMU：为有状态 LLM Agent 设计保护一致的虚拟内存
Jinhao Hu 提出 ClawMMU，为有状态 LLM Agent 的长期记忆增加保护层，给每条记忆标注归属者、作用域、来源与权限。ClawMMU 在内容进入模型上下文、写入存储、从存储返回或驱动工具调用时检查这些标签，核心规则是信息可以提高权限，但权限不能自我提升。
安全论文安全研究 #论文/研究 #Agent安全 #攻防研究提示注入隔离与权限检测与护栏 RAG 与知识库工具与协议 (MCP)通用与多智能体
15:06
arXiv· 15:06推荐指数6060
研究揭示 LLM Agent 持久记忆的自我强化隐私泄露循环
一项 arXiv 论文通过多会话模拟发现，LLM Agent 的持久记忆在提升回复质量的同时也提高了经验泄露率，即从完整对话记录中正确推断出属性值的比例，且该差距随会话轮次扩大。
安全论文安全研究 #论文/研究 #隐私保护 #Agent安全检测与护栏幻觉与失真 RAG 与知识库通用与多智能体红队与自动化测试