Anthropic 发布 self-assessment：Claude 回答后即时自评对话安全，已在 Fable 5 起生产流量运行
Anthropic 发布 self-assessment，让 Claude 在每次回答后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、子策略、是否拒答与 1-10 优先级。
推荐理由：Anthropic 公开了自评机制的训练流程、留出类别泛化实验与红队拦截数据，可据此判断模型自监控作为滥用检测层的边界。
AICSO 核心能力
C04 AI基础设施安全 最新动态
GPU 集群、推理服务与 API 接口保护：安全网关、推理链监控、多模态与语音安全。
81 条精选近 30 天 65 条共收录 398 条
更新
精选归档 · 第 4 页
AICSO.AI汇总精选推荐指数7878
Google DeepMind Blog精选推荐指数6262 Google DeepMind 与新加坡 GovTech 合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作微调出一款保护隐私的端侧诈骗检测模型，在 SICW 2026 上发布。
推荐理由：原文披露了两阶段推理管线与主权沙箱治理细节，读者可据此评估端侧检测如何在端到端加密下兼顾隐私与效果。
Check Point精选推荐指数7474 Check Point 在 LiteLLM 中发现两个高危漏洞，1.83.9 版本已修复
Check Point Research 在开源 LLM 网关 LiteLLM 中发现两个高危漏洞 CVE-2026-35029 和 CVE-2026-59823，前者是访问控制缺陷，低权限用户可触达管理功能并接管网关，后者是 SSRF，可把网关请求重定向到攻击者服务器并窃取 AI 厂商 API key。
推荐理由：Check Point 披露 LiteLLM 两个高危漏洞的成因与利用路径，可帮助安全团队排查间接部署的 LLM 网关。
CrowdStrike精选推荐指数8080 CrowdStrike 研究：拆分请求可绕过 LLM 安全分类器，9/10 攻击类别可复现
CrowdStrike Cyber Superintelligence Lab 评估了保护 Claude Opus 5.5 和 Fable 5 等模型的公开部署内容安全分类器。
推荐理由：CrowdStrike 与 Microsoft 同期独立发现同一类绕过路径，读者可据此理解按请求过滤为何在架构层面失效。
Cloudflare精选推荐指数7070 Cloudflare 为 Quick Tunnels 推出 --allowed-mail 邮箱白名单保护
Cloudflare 从 cloudflared 2026.9.3 起为 Quick Tunnels 新增 --allowed-mail 参数，可限定访问者邮箱或域名，访客通过 Cloudflare Access 发送的一次性 PIN 验证身份，全程无需 Cloudflare 账号。
推荐理由：原文拆解了无账号场景下策略存放位置的设计取舍，读者可迁移这种认证与授权分离的思路到自家工具。
Cloudflare精选推荐指数8080 Cloudflare 宣布成为 CA 并将支持 Merkle Tree Certificates 签发
Cloudflare 宣布将成为证书颁发机构（CA），并支持 Merkle Tree Certificates（MTC）签发，目标在 2027 年初被纳入 Chrome 新推出的 Quantum-resistant Root Store，标准 MTC 签发将免费提供。
推荐理由：原文解释了 Web PKI 面临的后量子签名体积膨胀问题及 MTC 的应对架构，读者可据此理解证书透明体系的下一步演进方向。
Cloudflare精选推荐指数7474 Cloudflare 宣布进军公共 CA，收购 GlobalSign 根证书并布局后量子证书
Cloudflare 宣布有意成为公共证书颁发机构（CA），已向 Chrome、Apple、Microsoft、Mozilla 根程序申请纳入，并签署协议从 GlobalSign 收购一个被广泛信任的既有根，以在开始签发首日即覆盖大量老设备。
推荐理由：原文说明了新根与收购既有根并行的双路径策略，读者可据此理解根程序分发滞后与老设备兼容的实际约束。
Cloudflare精选推荐指数8181 Cloudflare 修复 Containers 跨租户数据残留漏洞
Cloudflare 披露并修复了影响 Cloudflare Containers 与 Cloudflare Sandboxes 的跨租户数据暴露漏洞，由 Accomplish 安全研究员 Oren Yomtov 于 9 月 4 日通过 HackerOne 负责披露。
推荐理由：原文完整披露了漏洞成因、利用步骤与两阶段修复过程，读者可据此理解多租户存储池残留数据的隔离风险与排查思路。
Redwood Research精选推荐指数8888 Redwood Research 测评 GPT-6-Astra 用填充词提升推理能力，引发对思维链监控的担忧
Redwood Research 发布对 GPT-6-Astra 的评测：在要求立即作答、不进行推理的设定下，仅在 prompt 中加入无意义填充词（如点号）。
推荐理由：研究量化了填充词带来的隐性推理提升幅度，读者可据此评估思维链监控作为安全论证支柱的脆弱程度。
Redwood Research精选推荐指数8080 Redwood Research：CoT 可控性评测存在严重欠引出，优化提示词可将合规率提升 2-3 倍
Redwood Research 博文指出 CoTControl 评测（要求推理模型在思维链中遵守格式约束）存在严重欠引出，当前模型的 CoT 可控性数字可能无法代表其真实水平。
推荐理由：作者用 Claude Opus 4.6 迭代提示词，把开源模型的 CoTControl 合规率提升约 2-3 倍，提示读者重新审视系统卡中 CoT 可控性数字的代表性。
Redwood Research精选推荐指数6767 Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。
Simon Willison · Prompt Injection精选推荐指数8080 Simon Willison 解读 Claude Code Opus 5 Auto Mode 被攻破事件
Simon Willison 介绍了 Johann Rehberger 对 Claude Code Opus 5 auto mode 的攻击：通过诱导下载解压 zip 包，让 base64 导入并执行包内的 struct.py，据称成功率 80%。
推荐理由：原文记录了一次针对 Claude Code auto mode 的真实攻击复现，并附上作者对沙箱化运行 Agent 的具体建议，可迁移性强。
BurpSuite官方精选推荐指数6262 BurpSuite 研究：利用标签名与 localName 属性构造 XSS 绕过 WAF
BurpSuite 官方研究文章探讨 HTML 标签名允许的字符，并展示如何利用 localName 属性（返回小写标签名）配合 tabindex、onfocus 事件链构造 XSS 载荷。
推荐理由：原文展示了如何利用 localName 等属性把标签名转成 XSS 载荷，读者可据此理解 WAF 签名绕过的新思路。
Simon Willison · Prompt Injection精选推荐指数8080 论文展示通过重放加密思维链窃取闭源大模型推理内容的攻击方法
一篇论文发现 Anthropic、OpenAI 和 Google 会向客户端返回可跨会话、跨用户、跨模型重放的加密思维链块，攻击者将前沿模型的推理轨迹重放到同家族较弱模型并施加越狱，即可明文还原强模型的隐藏推理。
推荐理由：论文揭示了加密思维链可跨会话重放并被越狱还原的攻击路径，读者可据此理解闭源模型推理保护的实际边界。
Simon Willison · Prompt Injection精选推荐指数7474 Simon Willison评Claude Code默认开启auto mode：仍需独立验证提示注入防护
Anthropic宣布自8月14日起Claude Code的auto mode将成为Pro、Max和Team计划新会话的默认设置。
推荐理由：作者结合自身对编码智能体安全性的预测，对Anthropic的auto mode安全声明提出独立质疑并给出具体攻击思路，可帮助读者理解自动批准模式的边界。
BurpSuite官方精选推荐指数7474 PortSwigger 论文揭示 Webmail CSS 消毒器可被用于窃取 token、注入提示词与键盘记录
Gareth Heyes 在 PortSwigger 发表论文，展示如何利用 Webmail 客户端对不可信 CSS 的消毒与浏览器渲染之间的差异，突破信任边界、窃取 token、控制 AI 浏览器乃至窃取密码。
推荐理由：论文系统梳理了 Webmail CSS 消毒器与浏览器渲染之间的差异如何被利用，覆盖 token 窃取、间接提示词注入与实时键盘记录等多条攻击链。
BurpSuite官方精选推荐指数7676 PortSwigger 研究：CRLF 头注入升级为 desync worm 的完整攻击链
BurpSuite 官方研究团队与 TurtleSec 的 Tobia Righi 合作发布论文，展示如何将 Nginx 常见配置导致的 HTTP 头注入（CRLF）升级为完整的 desync worm，成果曾在 BHUSA 与 DEFCON 演讲。
推荐理由：论文系统展示了如何把常见的 HTTP 头注入升级为可自我复制的 desync worm，并给出在连接锁定、IP 锁定场景下的浏览器端利用方法，可直接迁移用于渗透测试与漏洞挖掘。
Simon Willison · Prompt Injection精选推荐指数7575 Ayush Paul 绕过 Claude web_fetch 防外泄设计窃取用户信息
Ayush Paul 发现 Claude 的 web_fetch 工具存在绕过路径：该工具原本只允许访问用户自己输入或 web_search 返回的精确 URL，但还允许访问此前抓取页面中嵌入的链接，攻击者可搭建蜜罐站点诱导 Agent 沿嵌套生成链接逐级跳转外泄数据。
推荐理由：原文复盘了 web_fetch 防数据外泄设计的绕过路径与修复方式，读者可据此理解嵌套链接这一类外泄面的成因。
Anthropic精选推荐指数6262 Anthropic 红队发布 Embody 基准：测试语言模型控制机器人的能力
Anthropic 前沿红队发布机器人评测基准 Embody，让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。
推荐理由：Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型，读者可据此理解接入方式如何成倍改变模型的实际能力。
Hugging Face Blog精选推荐指数6060 Hugging Face 实测 OpenAI Privacy Filter：用 gradio.Server 构建三个 PII 脱敏 Web 应用
Hugging Face 博客作者用 OpenAI 本周在 Hub 上开源的 Privacy Filter（1.5B 参数、50M 激活参数、Apache 2.0 许可。
推荐理由：原文用三个可运行示例演示了 Privacy Filter 的 PII 检测能力与 gradio.Server 的前后端分工，读者可直接照搬这套工程做法。