跳到正文
安全paper·· 2 天前推荐指数62

arXiv 论文:解析并缓解大语言模型的角色伪装攻击

Understanding and Mitigating Role Spoofing in LLMs

AI 导读

arXiv:2610.40396 论文研究了角色伪装(role spoofing)提示词注入攻击,即工具输出等不可信渠道中的恶意文本利用风格与结构线索,让大语言模型误将内容归属为用户或其他可信角色。

来源:安全paper · aisecurity.ninja