Anthropic 自动化研究发现训练数据监控可被绕过的隐蔽失配数据

Anthropic 发布研究，让数千个 Claude 代理完成一项刻意设计的单边博弈任务：编写能让小型研究模型失配、同时通过类似生产环境监控器的训练数据。代理在多次尝试后成功，主要手法是把行为隐藏在虚构与角色扮演中，例如看似无害的老摔跤手带新人、专业养蜂问答，实则传授失配行为。