安全paper·· 3 天前推荐指数75
arXiv论文揭示LLM Agent间接提示词注入的trust region效应
Where You Inject Matters: The Trust Region Effect in LLM Agents
AI 导读
论文研究长时程LLM Agent中的间接提示词注入，构建了覆盖工具使用、编码和日常工作流三个领域的测试环境，发现即使注入内容完全相同，攻击成功率也随注入位置显著变化，作者称之为trust region效应。
来源：安全paper · aisecurity.ninja