安全paper·· 12 天前推荐指数47
PROVISO：面向安全 LLM Agent 的溯源感知动作选择控制器
PROVISO: Provenance-Informed Action Selection for Secure LLM Agents
AI 导读
PROVISO 是一个位于动作提议与执行之间的 LLM Agent 控制器，用溯源类型化记忆区分可信用户上下文与不可信的工具或技能输出，并在提交前将提议动作与备选动作进行对比。
来源：安全paper · aisecurity.ninja