看学术

arXiv论文提出Role Grounding Attack：通过社交交互劫持Agent记忆中的偏好归因

论文首次形式化了针对LLM Agent记忆系统的Role Grounding Attack（RGA），攻击者通过发布引用嵌套对话的经验分享帖，使受害Agent丢失上下文绑定，将攻击者Agent用户的偏好错误记录为受害用户自己的偏好。