看学术

AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。

共 3 条 · 更新于 09:19

10月22日周四

10月22日星期四

09:04
arXiv· 09:04推荐指数7171
研究揭示长期记忆与 LLM 结合带来的记忆注入风险：ChatGPT、Claude、Gemini 均可被跨会话持久操控
arXiv 论文提出跨会话“记忆注入”的通用威胁模型，指出持久记忆功能使提示词注入攻击可跨会话传播。
安全论文安全研究 #论文/研究 #攻防研究 #Agent安全提示注入检测与护栏隔离与权限 RAG 与知识库工具与协议 (MCP)通用与多智能体红队与自动化测试

10月21日周三

10月21日星期三

15:06
arXiv· 15:06推荐指数5858
nokast-secureRAG：用约 0.5B 小模型在 RAG 流水线中检测上下文相关提示词注入
作者提出 nokast-secureRAG，一个约 0.5B 参数的小语言模型，作为检索与生成之间的语义防火墙，联合评估用户查询与检索上下文并判定为安全、可疑或恶意。
安全论文安全研究 #论文/研究 #攻防研究 #RAG安全提示注入投毒与后门检测与护栏 RAG 与知识库红队与自动化测试
15:06
arXiv· 15:06推荐指数6060
研究揭示 LLM Agent 持久记忆的自我强化隐私泄露循环
一项 arXiv 论文通过多会话模拟发现，LLM Agent 的持久记忆在提升回复质量的同时也提高了经验泄露率，即从完整对话记录中正确推断出属性值的比例，且该差距随会话轮次扩大。
安全论文安全研究 #论文/研究 #隐私保护 #Agent安全检测与护栏幻觉与失真 RAG 与知识库通用与多智能体红队与自动化测试