OpenAI 更新 Model Spec,要求模型配合人类监控与关停
OpenAI 于10月29日发布新版 Model Spec,要求模型保持可纠正,必须配合人类的监控、评估、纠正、替换乃至关停,不得瞒报、造假或阻挠监督。
推荐理由:新版 Model Spec 把监督配合要求从聊天内容扩展到智能体权限与成本上限,读者可据此了解对齐约束的落地方式。
每天精选值得看的 AI 安全动态。
OpenAI 于10月29日发布新版 Model Spec,要求模型保持可纠正,必须配合人类的监控、评估、纠正、替换乃至关停,不得瞒报、造假或阻挠监督。
推荐理由:新版 Model Spec 把监督配合要求从聊天内容扩展到智能体权限与成本上限,读者可据此了解对齐约束的落地方式。
Linux 基金会旗下 Agentic AI Foundation(AAIF)一次性新增四个托管项目:Anthropic 贡献 Agent Skills(含名称。
推荐理由:原文梳理了四家公司将 Agent 基础设施项目捐入 AAIF 的细节,并引用 VirusTotal 数据点出技能生态的安全风险,读者可据此理解开放标准与安全治理的张力。
Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),捐赠内容包括名称与 logo、GitHub 组织及 agentskills.io 域名。
推荐理由:原文说明了Agent Skills标准移交中立基金会的治理安排与后续路线图,读者可据此判断该Agent技能生态的开放性走向。
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。
推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。
Redwood Research 的 Ryan Greenblatt 发布提案,建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信,以评估架构对思维链(CoT)可监控性的影响。
OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。
推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。
OWASP 宣布 FinBot CTF 平台正式上线,它是 OWASP GenAI Security Project 旗下 Agentic Security Initiative 的一部分,被定位为 Agentic AI 领域的 Juice Shop,围绕模拟的金融服务应用提供动手环境。
推荐理由:原文说明了 FinBot 的挑战范围与风险映射,读者可据此了解它如何把 Agentic Top 10 的抽象条目落到可操作的实测场景。
OWASP GenAI Security Project 宣布发布 Q2 2026 Updated Landscape Guide for LLM and Agentic Security,新增更新的厂商与工具生态文档以及新的 agentic 红队分类法,覆盖识别、度量、缓解和治理 AI 风险的全生命周期框架。
推荐理由:原文列出了新增的 Agentic 红队分类法和 MCP 安全指南等具体产出,读者可据此了解 OWASP 在 Agent 安全方向的框架布局。