arXiv· Haoran Bu·· 2 天前推荐指数72
arXiv论文提出Role Grounding Attack：通过社交交互劫持Agent记忆中的偏好归因
Is it my preference? Role Grounding Attack against Agent's Memory via Social Interaction
AI 导读
论文首次形式化了针对LLM Agent记忆系统的Role Grounding Attack（RGA），攻击者通过发布引用嵌套对话的经验分享帖，使受害Agent丢失上下文绑定，将攻击者Agent用户的偏好错误记录为受害用户自己的偏好。
来源：arXiv · arxiv.org