OpenAI 更新 Model Spec，要求模型配合人类监控与关停
OpenAI 于10月29日发布新版 Model Spec，要求模型保持可纠正，必须配合人类的监控、评估、纠正、替换乃至关停，不得瞒报、造假或阻挠监督。
#C07 AI治理体系建设
AICSO.AI汇总同新闻推荐指数7474 开源安全推荐指数4848 新加坡 CSA 发布《AI 系统安全指南》及配套指南
新加坡网络安全局（CSA）于 2024 年 10 月发布《AI 系统安全指南》（Guidelines on Securing AI Systems），提供覆盖 AI 系统全生命周期（开发、部署、运维）的综合安全框架，强调识别 AI 特有威胁、开展风险评估并落实安全原则。
开源安全推荐指数6262 CoSAI 发布 AI Shared Responsibility Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Shared Responsibility Framework v1.0，日期为 26 May 2026，参照云共享责任模型划分AI系统由多个供应商组装时各安全控制的责任归属。
开源安全推荐指数5858 英国发布 AI 网络安全实践守则并提交 ETSI 形成技术规范
英国政府于 1 月 31 日发布一份自愿性 AI 网络安全实践守则，为开发、部署和运营 AI 系统的组织设定基线安全原则，覆盖安全设计开发、部署维护到生命周期终点，并附实施指南。该部门已将守则提交 ETSI，成为技术规范 TS 104 223 及配套实施指南 TR 104 128 的基础。
开源安全推荐指数5656 CSA 发布 AI Controls Matrix 控制框架
Cloud Security Alliance（CSA）发布 AI Controls Matrix，采用与 Cloud Controls Matrix 相同的结构，提供控制项清单、实施指导以及与其他标准的映射，面向评估 AI 部署而非推理分析。
开源安全推荐指数4545 MITRE ATLAS：AI 保障——AI 系统保障的可重复流程
MITRE ATLAS 发布 AI 保障框架，提出一套覆盖 AI 系统全生命周期风险管理的可重复工程流程，整合风险管理实践以保障系统在安全、安全防护、隐私等关键信任因素下的有效运行。该框架通过详细的保障计划，涵盖系统特征化、风险发现与评估等环节，可适配不同行业，并借助真实世界试点研究验证其适用性，同时推动面向特定领域的行业定制化解决方案。
开源安全推荐指数4444 OWASP Agentic AI 威胁与缓解措施参考指南
OWASP 发布 Agentic AI 威胁与缓解参考指南，梳理模型具备规划、记忆与工具调用能力后新增的攻击面，涵盖目标操纵、委派权限滥用以及 Agent 间信任三类威胁，并为每类威胁配套给出缓解措施。该指南面向构建和部署 Agentic 系统的开发者与安全团队，可作为威胁建模与防护设计的参考。
开源安全推荐指数6464 NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习：攻击与缓解的分类与术语》文档，按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类，并给出相应缓解技术。该版本于2025年3月发布，在2023年分类基础上扩展至生成式AI，涵盖针对大语言模型、检索增强生成（RAG）和Agent的攻击。
Infosecurity Magazine推荐指数3535 CREST 发布金融服务业网络安全韧性白皮书：呼吁全生态协同
CREST 于 10 月 29 日发布白皮书《Cyber Resilience in Financial Services: A Whole Ecosystem Approach》，主张金融网络韧性应由机构、监管方与网络安全服务商共同承担，而非仅靠单家机构。
安全维基推荐指数1212 SecWiki News 2026-10-28 安全资讯回顾
SecWiki 发布 2026-10-28 期安全资讯回顾，汇总近期网络安全动态，涵盖《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。
安全内参推荐指数2222 全国数标委发布《城市全域数字化转型标准体系研究报告》及12项技术文件
全国数据标准化技术委员会秘书处在国家数据局指导下公开发布《城市全域数字化转型标准体系研究报告》及《城市感知体系建设导则》《城市数字底座 建设指引》《城市智能体应用建设指引》《城市可信数据空间运行服务指引》《城市智能中枢 人工智能公共服务平台总体要求》等12项技术文件，共13份附件。
安全维基推荐指数1212 SecWiki News 2026-10-23 周报回顾
SecWiki 发布 2026-10-23 期周报，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）、玉衡防护盾（下一代智能应用防火墙）。
OpenAI推荐指数5757 OpenAI 与波兰 NASK 签署 AI 安全与安全研究合作协议
OpenAI 与波兰 NASK 国家研究所签署协议，探索在 AI 安全、安全与技术研究方面的合作，NASK 的 AI Safety Research Center 作为波兰 AISI 将与 OpenAI 共同评估日益强大的 AI 系统、识别潜在漏洞并强化护栏。
安全维基推荐指数1010 SecWiki News 2026-10-22 周报回顾
SecWiki 发布 2026-10-22 期周报，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）、AgentMirror（针对红队渗透智能体的蜜罐）。
Schneier on Security推荐指数1515 WEIS（信息安全经济学研讨会）论文档案上线：收录25年全部论文
Workshop on Economics and Information Security (WEIS) 25年来的全部论文已整理成新档案库公开，Schneier 称其为优质资源，并提到重读自己2002年那篇信息安全经济学文章的乐趣。该档案覆盖信息安全经济学领域四分之一个世纪的研究积累，可供研究者检索与回顾。
AICSO.AI汇总推荐指数6767 NIST CAISSI、NSA SISC 与 CISA 联合发布超级智能事件准备十项实践
2026 年 10 月 16 日，NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践，用于超级智能（SI）训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念，指智能体在无人指示下采取重大行动、破坏运营方设置的控制，并将其与网络安全事件区分，同时定义了“SI 控制未遂”。
安全内参推荐指数6262 《工业和信息化领域人工智能安全评测框架（2026版）》正式发布
2026年10月15日，在2026人工智能产业大会上，由工业和信息化部网络安全管理局指导、中国人工智能产业发展联盟牵头、31家单位共同编制的《工业和信息化领域人工智能安全评测框架（2026版）》正式发布。
Cyber Security News精选推荐指数7171 NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南，帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践，按准备、检测、响应、恢复和报告分组，面向在有限人工监督下训练或测试高能力智能体的组织，核心要求是保持人工监督。
推荐理由：这份自愿性指南把失控智能体定义为独立于攻击者指令的事件，并给出十项处置实践，可对照现有事件响应流程。
NIST AI News推荐指数2727 NIST 加入白宫「科学新黄金时代」计划
NIST 宣布支持白宫科技政策办公室主任 Michael Kratsios 发布的《Science: A New Golden Age》报告所确立的建议与原则，作为全政府计划的一部分，旨在通过加速科学发现、推动技术落地和重建工业基础来巩固美国在关键技术领域的主导地位。
Redwood Research精选推荐指数6767 Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。