研究者发布46k参数提示注入防御模型

研究者 Alexander Panfilov 发布了一个仅 46k 参数的提示注入防御模型，并用基于强化学习和 Claudini 发现的攻击做了“攻击者后手”评估。作者称所得模型比 SecAlign 更少出现角色混淆。 合作者称其攻击显示 HoS 并非不可攻破，但比他们尝试过的其他方法更难攻破；作者称 Claudini 适合用作自适应攻击评测。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。