跳到正文
ShortSpan·· 16 天前推荐指数76

TRACER 论文揭示间接提示词注入成功率随呈现信道变化

Prompt injection success depends on the channel it uses

AI 导读

论文 TRACER: Trace-Regularized Training Against Indirect Prompt Injection(作者 Kshitij Mishra、Salem Lahlou、Nils Lukas)发现,同一段间接提示词注入载荷作为聊天后续消息时成功率 18%,放入检索内容中则达 53%。

来源:ShortSpan · shortspan.ai