ShortSpan·· 2026-09-23推荐指数71
研究用 XAI 归因分析 Prompt Guard 2:同义替换 12 处即可绕过注入检测
Prompt Guard 2 learns attack phrasing, not attack intent
AI 导读
Fernando Outeda 等人的论文《Decoding Guardrails: XAI-Guided Perturbation Analysis of Prompt Injection Detection》用 Vanilla Gradient 和 SHAP 归因分析基于 DeBERTa-v2 的 86M 参数分类器 Prompt Guard 2。
来源:ShortSpan · shortspan.ai