跳到正文
安全paper·· 5 天前推荐指数60

SpecGuard:基于形式化规约的运行时监控检测多轮 LLM 越狱

SpecGuard: Detecting Multi-Turn LLM Jailbreaks via Specification-Based Runtime Monitoring

AI 导读

arXiv:2610.36258 提出 SpecGuard,一个免训练、规约驱动的多轮 LLM 越狱运行时监控框架。它用固定的原子命题契约把自然语言观察映射为带证据的事实,用 Linear Temporal Logic(LTL)规约描述被禁止的交互模式,并编译为符号有限自动机增量消费对话轨迹;通过的运行会产出可回放的 witness,标明触发的规约、支撑事实与相关对话轮次。

来源:安全paper · aisecurity.ninja