跳到正文
安全paper·· 10 天前推荐指数71

arXiv论文提出通过后训练提升思维链可监控性

Monitorability Is Trainable: Post-Training for Chain-of-Thought Monitorability

AI 导读

arXiv:2610.29734 论文提出一种无监督后训练目标,通过最大化思维链(CoT)与模型输出之间的互信息来提升 CoT 可监控性。在三个 CoT 被刻意退化的 model organisms 上,该方法恢复了大部分或全部丢失的可监控性;应用于未退化策略时,还能提升判定式可监控性、CoT 监控器与激活探针对不安全行为的预测能力,并增加实质性推理的比例。

来源:安全paper · aisecurity.ninja