Redwood Research· Gosha Kozhevnikov·· 14 天前精选推荐指数84
Redwood Research 发布 Screwtape：通过编辑真实转录对监控器进行红队测试
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
Redwood Research 发布 Screwtape 管线，通过在真实 agent 转录中插入攻击并反复迭代优化，生成能够绕过仅监控行动（不看思维链）的监控器的攻击转录。
推荐理由
原文给出了通过编辑真实转录迭代攻击监控器的完整方法与实验数据，读者可据此理解现有行动监控的盲区类型及其局限。
来源：Redwood Research · blog.redwoodresearch.org