安全paper·· 9 天前推荐指数56
arXiv 论文提出 CoT 可监控性的因果上下界评估与训练方法
Learning to Be Monitored: Causal Bounds and Intervention-Aware Post-Training Recipes for Chain-of-Thought Monitorability
AI 导读
arXiv:2610.31733 论文研究如何评估与提升大语言模型的思维链（CoT）可监控性，指出常用的基于干预的评估指标 TPR_mc 会高估监控器真正检出由干预导致行为的频率，并将其确立为因果检出率的上界、推导出互补下界。
来源：安全paper · aisecurity.ninja