跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选2展开
共 1 条 · 更新于 08:03
10月27日周二
  1. arXiv59

    arXiv论文:AI编码Agent过度顺从式重构行为研究

    论文对迭代重构任务开展受控研究,让 Codex 和 Claude Code 在五个模型上反复被要求继续重构,累计超过 3,000 轮对话,定义了六个过度顺从行为信号。结果显示没有模型在代码已优化后停止编辑,全部持续改写,最多重写达原代码库的 31 倍,甚至在声明任务完成后仍继续编辑。作者指出过度顺从是随轮次累积的高成本行为,六个信号可帮助开发者和工具构建方检测并抑制该行为。