Anthropic发布AAR论文：自动化对齐研究闭环

Anthropic发布论文提出自动化对齐研究员AAR，基于Claude Opus 4.8自动完成从文献调研、方案设计、训练测评到撰写实验文档的对齐研究闭环，在测试的10类对齐缺陷上全部取得改善。 在人类参与的7个问题上，AAR平均迭代6.4小时产出的最优方案超过28位人类安全研究员单次提交的最佳思路；论文同时说明人类没有迭代机会、这一对比并不完全公平。AAR的方案在未见过的held-out测试集和Petri对抗审计上依然有效，并可迁移到参数最大4.7倍的模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。