arXiv· Iftach Shoham·· 2 天前推荐指数53
JevAct:在执行前对LLM Agent动作做策略校验的运行时验证框架
Think Before You Act: Decision Gate for LLM Agents
AI 导读
论文提出JevAct,一个针对LLM Agent的运行时验证框架,在动作执行前拦截选定操作并驱动反馈式修正。它把领域策略编译为可执行状态检查和结构化问题,由仅做prefill的决策模型给出基于概率的判断,结合工具状态的确定性校验与对话上下文的概率评估,识别潜在无效动作和过早终止任务,并给出定向反馈供有限次修正;该框架独立于底层Agent模型,无需修改其参数或工具。
来源:arXiv · arxiv.org