ShortSpan·· 16 天前推荐指数76
TRACER 论文揭示间接提示词注入成功率随呈现信道变化
Prompt injection success depends on the channel it uses
AI 导读
论文 TRACER: Trace-Regularized Training Against Indirect Prompt Injection(作者 Kshitij Mishra、Salem Lahlou、Nils Lukas)发现,同一段间接提示词注入载荷作为聊天后续消息时成功率 18%,放入检索内容中则达 53%。
来源:ShortSpan · shortspan.ai