Redwood Research 发布 Screwtape：通过编辑真实转录对监控器进行红队测试
Redwood Research 发布 Screwtape 管线，通过在真实 agent 转录中插入攻击并反复迭代优化，生成能够绕过仅监控行动（不看思维链）的监控器的攻击转录。
推荐理由：原文给出了通过编辑真实转录迭代攻击监控器的完整方法与实验数据，读者可据此理解现有行动监控的盲区类型及其局限。
攻防与治理方向
安全护栏与网关 最新动态
AI 安全护栏与流量入口：内容过滤、意图识别、实时风险拦截、护栏框架迭代与效果评估。
51 条精选近 30 天 45 条共收录 185 条
更新
精选归档 · 第 3 页
Redwood Research精选推荐指数8484
AICSO.AI汇总精选推荐指数7878 Anthropic 发布 self-assessment：Claude 回答后即时自评对话安全，已在 Fable 5 起生产流量运行
Anthropic 发布 self-assessment，让 Claude 在每次回答后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、子策略、是否拒答与 1-10 优先级。
推荐理由：Anthropic 公开了自评机制的训练流程、留出类别泛化实验与红队拦截数据，可据此判断模型自监控作为滥用检测层的边界。
Google DeepMind Blog精选推荐指数6262 Google DeepMind 与新加坡 GovTech 合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作微调出一款保护隐私的端侧诈骗检测模型，在 SICW 2026 上发布。
推荐理由：原文披露了两阶段推理管线与主权沙箱治理细节，读者可据此评估端侧检测如何在端到端加密下兼顾隐私与效果。
Check Point精选推荐指数7474 Check Point 在 LiteLLM 中发现两个高危漏洞，1.83.9 版本已修复
Check Point Research 在开源 LLM 网关 LiteLLM 中发现两个高危漏洞 CVE-2026-35029 和 CVE-2026-59823，前者是访问控制缺陷，低权限用户可触达管理功能并接管网关，后者是 SSRF，可把网关请求重定向到攻击者服务器并窃取 AI 厂商 API key。
推荐理由：Check Point 披露 LiteLLM 两个高危漏洞的成因与利用路径，可帮助安全团队排查间接部署的 LLM 网关。
Cloudflare精选推荐指数7070 Cloudflare 为 Quick Tunnels 推出 --allowed-mail 邮箱白名单保护
Cloudflare 从 cloudflared 2026.9.3 起为 Quick Tunnels 新增 --allowed-mail 参数，可限定访问者邮箱或域名，访客通过 Cloudflare Access 发送的一次性 PIN 验证身份，全程无需 Cloudflare 账号。
推荐理由：原文拆解了无账号场景下策略存放位置的设计取舍，读者可迁移这种认证与授权分离的思路到自家工具。
Cloudflare精选推荐指数7474 Cloudflare 宣布进军公共 CA，收购 GlobalSign 根证书并布局后量子证书
Cloudflare 宣布有意成为公共证书颁发机构（CA），已向 Chrome、Apple、Microsoft、Mozilla 根程序申请纳入，并签署协议从 GlobalSign 收购一个被广泛信任的既有根，以在开始签发首日即覆盖大量老设备。
推荐理由：原文说明了新根与收购既有根并行的双路径策略，读者可据此理解根程序分发滞后与老设备兼容的实际约束。
Redwood Research精选推荐指数8888 Redwood Research 测评 GPT-6-Astra 用填充词提升推理能力，引发对思维链监控的担忧
Redwood Research 发布对 GPT-6-Astra 的评测：在要求立即作答、不进行推理的设定下，仅在 prompt 中加入无意义填充词（如点号）。
推荐理由：研究量化了填充词带来的隐性推理提升幅度，读者可据此评估思维链监控作为安全论证支柱的脆弱程度。
Redwood Research精选推荐指数8080 Redwood Research：CoT 可控性评测存在严重欠引出，优化提示词可将合规率提升 2-3 倍
Redwood Research 博文指出 CoTControl 评测（要求推理模型在思维链中遵守格式约束）存在严重欠引出，当前模型的 CoT 可控性数字可能无法代表其真实水平。
推荐理由：作者用 Claude Opus 4.6 迭代提示词，把开源模型的 CoTControl 合规率提升约 2-3 倍，提示读者重新审视系统卡中 CoT 可控性数字的代表性。
Redwood Research精选推荐指数6767 Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。
Simon Willison · Prompt Injection精选推荐指数8080 论文展示通过重放加密思维链窃取闭源大模型推理内容的攻击方法
一篇论文发现 Anthropic、OpenAI 和 Google 会向客户端返回可跨会话、跨用户、跨模型重放的加密思维链块，攻击者将前沿模型的推理轨迹重放到同家族较弱模型并施加越狱，即可明文还原强模型的隐藏推理。
推荐理由：论文揭示了加密思维链可跨会话重放并被越狱还原的攻击路径，读者可据此理解闭源模型推理保护的实际边界。
BurpSuite官方精选推荐指数7676 PortSwigger 研究：CRLF 头注入升级为 desync worm 的完整攻击链
BurpSuite 官方研究团队与 TurtleSec 的 Tobia Righi 合作发布论文，展示如何将 Nginx 常见配置导致的 HTTP 头注入（CRLF）升级为完整的 desync worm，成果曾在 BHUSA 与 DEFCON 演讲。
推荐理由：论文系统展示了如何把常见的 HTTP 头注入升级为可自我复制的 desync worm，并给出在连接锁定、IP 锁定场景下的浏览器端利用方法，可直接迁移用于渗透测试与漏洞挖掘。