METR 与 Redwood Research 红队测试 OpenAI 内部 Agent 监控系统
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试,产出 61 页内部报告。
推荐理由:报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议,读者可据此理解当前 Agent 监控体系的典型失效面。
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试,产出 61 页内部报告。
推荐理由:报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议,读者可据此理解当前 Agent 监控体系的典型失效面。
Redwood Research 发布 Screwtape 管线,通过在真实 agent 转录中插入攻击并反复迭代优化,生成能够绕过仅监控行动(不看思维链)的监控器的攻击转录。
推荐理由:原文给出了通过编辑真实转录迭代攻击监控器的完整方法与实验数据,读者可据此理解现有行动监控的盲区类型及其局限。
BurpSuite 官方研究文章探讨 HTML 标签名允许的字符,并展示如何利用 localName 属性(返回小写标签名)配合 tabindex、onfocus 事件链构造 XSS 载荷。
推荐理由:原文展示了如何利用 localName 等属性把标签名转成 XSS 载荷,读者可据此理解 WAF 签名绕过的新思路。
Gareth Heyes 在 PortSwigger 发表论文,展示如何利用 Webmail 客户端对不可信 CSS 的消毒与浏览器渲染之间的差异,突破信任边界、窃取 token、控制 AI 浏览器乃至窃取密码。
推荐理由:论文系统梳理了 Webmail CSS 消毒器与浏览器渲染之间的差异如何被利用,覆盖 token 窃取、间接提示词注入与实时键盘记录等多条攻击链。
腾讯玄武实验室发布《AI网络爬虫安全白皮书》,系统分析AI时代服务端浏览器/爬虫的攻击面,指出多款产品存在沙箱外远程代码执行(RCE)风险,相关产品服务端用户规模累计超10亿,涵盖多家头部科技企业。
推荐理由:白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例,并给出可复用的纵深防御框架和开源方案,工程落地参考价值高。