Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。
内容形态
生态与标准 最新动态
行业标准、开源安全工具、白皮书与产业联盟动态：谁在推动规范、哪些工具生态正在成型。
29 条精选近 30 天 20 条共收录 127 条
更新
精选归档 · 第 2 页
Redwood Research精选推荐指数6767
BurpSuite官方精选推荐指数9292 PortSwigger 发布 HTTP Terminator 自主安全研究白皮书
James Kettle 发布白皮书《Can AI do novel security research?
推荐理由：原文完整拆解了自主安全研究系统的构想、评估与级联设计，读者可迁移其微灵感与评估原语的做法。
Hugging Face Blog精选推荐指数6060 Hugging Face 实测 OpenAI Privacy Filter：用 gradio.Server 构建三个 PII 脱敏 Web 应用
Hugging Face 博客作者用 OpenAI 本周在 Hub 上开源的 Privacy Filter（1.5B 参数、50M 激活参数、Apache 2.0 许可。
推荐理由：原文用三个可运行示例演示了 Privacy Filter 的 PII 检测能力与 gradio.Server 的前后端分工，读者可直接照搬这套工程做法。
OWASP精选推荐指数7171 OWASP FinBot CTF 上线，作为 Agentic Security Initiative 的动手实践平台
OWASP 宣布 FinBot CTF 平台正式上线，它是 OWASP GenAI Security Project 旗下 Agentic Security Initiative 的一部分，被定位为 Agentic AI 领域的 Juice Shop，围绕模拟的金融服务应用提供动手环境。
推荐理由：原文说明了 FinBot 的挑战范围与风险映射，读者可据此了解它如何把 Agentic Top 10 的抽象条目落到可操作的实测场景。
OWASP精选推荐指数7575 OWASP 发布 2026 年 Q1 GenAI 漏洞事件汇总报告
OWASP GenAI Security Project 发布 GenAI Exploit Round-up Report Q1 2026，覆盖 2026 年 1 月 1 日至 4 月 11 日。
推荐理由：报告逐条把事件映射到 OWASP LLM 与 Agentic Top 10，并指出多数 AI 安全事件尚未进入 CVE 体系，读者可据此理解传统漏洞管理与 AI 风险之间的缺口。
OWASP精选推荐指数6060 OWASP GenAI Security Project 在 RSA 2026 前发布 LLM 与 Agentic 安全新版指南
OWASP GenAI Security Project 宣布发布 Q2 2026 Updated Landscape Guide for LLM and Agentic Security，新增更新的厂商与工具生态文档以及新的 agentic 红队分类法，覆盖识别、度量、缓解和治理 AI 风险的全生命周期框架。
推荐理由：原文列出了新增的 Agentic 红队分类法和 MCP 安全指南等具体产出，读者可据此了解 OWASP 在 Agent 安全方向的框架布局。
腾讯玄武实验室精选推荐指数8686 腾讯玄武实验室发布《AI网络爬虫安全白皮书》并开源SEChrome防护方案
腾讯玄武实验室发布《AI网络爬虫安全白皮书》，系统分析AI时代服务端浏览器/爬虫的攻击面，指出多款产品存在沙箱外远程代码执行（RCE）风险，相关产品服务端用户规模累计超10亿，涵盖多家头部科技企业。
推荐理由：白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例，并给出可复用的纵深防御框架和开源方案，工程落地参考价值高。
腾讯玄武实验室精选推荐指数6262 腾讯玄武实验室披露 ComfyUI-Manager 远程代码执行漏洞 CVE-2025-67303
腾讯玄武实验室发现 ComfyUI 官方扩展组件 ComfyUI-Manager 存在高危漏洞 CVE-2025-67303，远程攻击者可在无需账号的情况下实现远程代码执行并完全控制服务器，包括盗取用户数据和私有 AI 模型。
推荐理由：通告给出了漏洞根因、影响版本与迁移步骤，读者可据此判断自身 ComfyUI 部署是否受影响并完成修复。
腾讯玄武实验室精选推荐指数7373 腾讯玄武实验室阿图因引擎发现 gnark 零知识证明库签名可锻造性漏洞 CVE-2025-57801
腾讯玄武实验室的阿图因自动化漏洞挖掘引擎在零知识证明库 gnark 中发现高危签名可锻造性漏洞 CVE-2025-57801（CVSS 8.6），并联合上海交通大学 GOSSIP 实验室及郁昱教授团队完成复现。
推荐理由：文章解释了漏洞虽存在多年却大多未被触发的原因，读者可据此自查闭源项目是否使用了受影响的 Native Verification API。