OpenAI 更新 Model Spec，要求模型配合人类监控与关停
OpenAI 于10月29日发布新版 Model Spec，要求模型保持可纠正，必须配合人类的监控、评估、纠正、替换乃至关停，不得瞒报、造假或阻挠监督。
AI安全动态
AICSO.AI汇总同新闻推荐指数7474 开源安全推荐指数4848 新加坡 CSA 发布《AI 系统安全指南》及配套指南
新加坡网络安全局（CSA）于 2024 年 10 月发布《AI 系统安全指南》（Guidelines on Securing AI Systems），提供覆盖 AI 系统全生命周期（开发、部署、运维）的综合安全框架，强调识别 AI 特有威胁、开展风险评估并落实安全原则。
开源安全推荐指数6262 CoSAI 发布 AI Shared Responsibility Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Shared Responsibility Framework v1.0，日期为 26 May 2026，参照云共享责任模型划分AI系统由多个供应商组装时各安全控制的责任归属。
开源安全推荐指数5858 英国发布 AI 网络安全实践守则并提交 ETSI 形成技术规范
英国政府于 1 月 31 日发布一份自愿性 AI 网络安全实践守则，为开发、部署和运营 AI 系统的组织设定基线安全原则，覆盖安全设计开发、部署维护到生命周期终点，并附实施指南。该部门已将守则提交 ETSI，成为技术规范 TS 104 223 及配套实施指南 TR 104 128 的基础。
开源安全推荐指数2222 AI 系统安全风险概览：规避攻击、信息提取与后门攻击
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁，重点覆盖规避攻击（evasion attacks）、信息提取（information extraction）与后门攻击（backdoor attacks）三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时，需重视系统设计安全以抵御恶意操纵，并明确其定位为初步指引而非穷尽性文档。
开源安全推荐指数5656 CSA 发布 AI Controls Matrix 控制框架
Cloud Security Alliance（CSA）发布 AI Controls Matrix，采用与 Cloud Controls Matrix 相同的结构，提供控制项清单、实施指导以及与其他标准的映射，面向评估 AI 部署而非推理分析。
开源安全推荐指数4444 OWASP 发布 Agent Name Service (ANS) v1.0：面向安全 AI Agent 发现与认证的早期方案
OWASP 发布 Agent Name Service (ANS) v1.0，提出一套让 AI Agent 之间相互发现与认证的方案，用于解决"一个 Agent 如何确认正在与哪个 Agent 通信"的问题。该方案目前处于早期阶段，以 v1.0 版本形式公开。
开源安全推荐指数4545 MITRE ATLAS：AI 保障——AI 系统保障的可重复流程
MITRE ATLAS 发布 AI 保障框架，提出一套覆盖 AI 系统全生命周期风险管理的可重复工程流程，整合风险管理实践以保障系统在安全、安全防护、隐私等关键信任因素下的有效运行。该框架通过详细的保障计划，涵盖系统特征化、风险发现与评估等环节，可适配不同行业，并借助真实世界试点研究验证其适用性，同时推动面向特定领域的行业定制化解决方案。
开源安全推荐指数4444 OWASP Agentic AI 威胁与缓解措施参考指南
OWASP 发布 Agentic AI 威胁与缓解参考指南，梳理模型具备规划、记忆与工具调用能力后新增的攻击面，涵盖目标操纵、委派权限滥用以及 Agent 间信任三类威胁，并为每类威胁配套给出缓解措施。该指南面向构建和部署 Agentic 系统的开发者与安全团队，可作为威胁建模与防护设计的参考。
开源安全推荐指数6262 OWASP GenAI 项目收录 Agent Control Standard (ACS) 运行时管控开放标准
OWASP GenAI Security Project 于 1 月 9 日收录了 Agent Control Standard (ACS)，这是一个面向 AI Agent 运行时管控的开放标准，定义 Agent 平台需暴露的 hooks，使独立工具能在动作执行前检查意图并允许、拒绝或修改，附带策略执行与审计追踪。
开源安全推荐指数6464 NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习：攻击与缓解的分类与术语》文档，按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类，并给出相应缓解技术。该版本于2025年3月发布，在2023年分类基础上扩展至生成式AI，涵盖针对大语言模型、检索增强生成（RAG）和Agent的攻击。
Infosecurity Magazine推荐指数3535 CREST 发布金融服务业网络安全韧性白皮书：呼吁全生态协同
CREST 于 10 月 29 日发布白皮书《Cyber Resilience in Financial Services: A Whole Ecosystem Approach》，主张金融网络韧性应由机构、监管方与网络安全服务商共同承担，而非仅靠单家机构。
安全维基推荐指数1212 SecWiki News 2026-10-28 安全资讯回顾
SecWiki 发布 2026-10-28 期安全资讯回顾，汇总近期网络安全动态，涵盖《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。
安全维基推荐指数1212 SecWiki News 2026-10-27 安全资讯周报
SecWiki 发布 2026-10-27 期安全资讯周报，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。
Infosecurity Magazine推荐指数6262 ISC2 宣布首个 AI 安全认证，预计 2027 年初开放考试
ISC2 在 Security Congress 2026 上宣布其第 10 项认证，即首个 AI 安全认证，预计最早 2027 年 1 月开放考试。
Cyber Security News推荐指数3636 2026 年十大最佳机密计算平台排名与评分
2026 年机密计算平台排名中，Microsoft Azure 以 9.0 分位居第一，AWS（Nitro Enclaves）和 Google Cloud 分别以 8.7 分和 8.6 分位列第二、三名。
安全内参推荐指数2222 全国数标委发布《城市全域数字化转型标准体系研究报告》及12项技术文件
全国数据标准化技术委员会秘书处在国家数据局指导下公开发布《城市全域数字化转型标准体系研究报告》及《城市感知体系建设导则》《城市数字底座 建设指引》《城市智能体应用建设指引》《城市可信数据空间运行服务指引》《城市智能中枢 人工智能公共服务平台总体要求》等12项技术文件，共13份附件。
Hacker News推荐指数2222 Vulnocalypse：新安全漏洞实时追踪器上线，覆盖 200+ 国家的 CERT、厂商与研究机构
Vulnocalypse 是由 @OliverSild 推出的新安全漏洞实时追踪器，自动汇总 200+ 国家的 CERT、厂商、研究实验室、信息安全社交媒体与新闻报道，并核查 IOC 与证据。
Infosecurity Magazine推荐指数3838 Blue Initiative 推出海事行业专用漏洞数据库
由 Cydome、Rakuten Maritime、Bureau Veritas、ClassNK 与 MTS-ISAC 组成的行业联盟于 10 月 26 日宣布启动 Blue Initiative，上线海事漏洞库（Maritime Vulnerabilities Repository, MVR），号称是首个仅收录海事行业相关 IT 与 OT 漏洞的 CVE 数据库。
Hacker News推荐指数4444 Unicode Technical Standard #39（UTS #39）v18.0.0：Unicode 安全机制
Unicode Consortium 发布 Unicode Technical Standard #39（UTS #39）v18.0.0，修订号 34，由 Josh Hadley、Roozbeh Pournader 编辑，日期 2026-08-27，已获 Unicode 成员批准为稳定文档。
安全维基推荐指数1010 SecWiki News 2026-10-25 周报回顾
SecWiki 发布 2026-10-25 期新闻回顾，汇总近期安全资讯与资源，涵盖《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。
安全维基推荐指数1212 SecWiki News 2026-10-24 周报回顾
SecWiki 发布 2026-10-24 期新闻回顾，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 中萃取网络协议格式规范）、AgentMirror（针对红队渗透智能体蜜罐）、JGD（面向 Java 反序列化 Gadget Chain 的自主挖掘 Agent）等条目。
安全维基推荐指数1212 SecWiki News 2026-10-23 周报回顾
SecWiki 发布 2026-10-23 期周报，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）、玉衡防护盾（下一代智能应用防火墙）。
机器之心精选推荐指数7878 Anthropic、OpenAI、Hugging Face、阿里向 AAIF 捐赠四项 Agent 基础设施项目
Linux 基金会旗下 Agentic AI Foundation（AAIF）一次性新增四个托管项目：Anthropic 贡献 Agent Skills（含名称。
推荐理由：原文梳理了四家公司将 Agent 基础设施项目捐入 AAIF 的细节，并引用 VirusTotal 数据点出技能生态的安全风险，读者可据此理解开放标准与安全治理的张力。
OpenAI推荐指数5757 OpenAI 与波兰 NASK 签署 AI 安全与安全研究合作协议
OpenAI 与波兰 NASK 国家研究所签署协议，探索在 AI 安全、安全与技术研究方面的合作，NASK 的 AI Safety Research Center 作为波兰 AISI 将与 OpenAI 共同评估日益强大的 AI 系统、识别潜在漏洞并强化护栏。
安全维基推荐指数1010 SecWiki News 2026-10-22 周报回顾
SecWiki 发布 2026-10-22 期周报，收录《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）、AgentMirror（针对红队渗透智能体的蜜罐）。
安全深度阅读推荐指数2222 Marvell、Microsoft 与 Oracle 推动数据中心硬件安全标准化
Marvell、Microsoft 与 Oracle 正合作推动面向云与超大规模数据中心基础设施的 NIST FIPS 140-3 Level 3 集成 HSM 标准化。该工作旨在为数据中心硬件安全建立统一规范。
Anthropic精选推荐指数7272 Anthropic 将 Agent Skills 开源标准捐赠给 Agentic AI Foundation
Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation（AAIF），捐赠内容包括名称与 logo、GitHub 组织及 agentskills.io 域名。
推荐理由：原文说明了Agent Skills标准移交中立基金会的治理安排与后续路线图，读者可据此判断该Agent技能生态的开放性走向。
Schneier on Security推荐指数1515 WEIS（信息安全经济学研讨会）论文档案上线：收录25年全部论文
Workshop on Economics and Information Security (WEIS) 25年来的全部论文已整理成新档案库公开，Schneier 称其为优质资源，并提到重读自己2002年那篇信息安全经济学文章的乐趣。该档案覆盖信息安全经济学领域四分之一个世纪的研究积累，可供研究者检索与回顾。
AICSO.AI汇总推荐指数6767 NIST CAISSI、NSA SISC 与 CISA 联合发布超级智能事件准备十项实践
2026 年 10 月 16 日，NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践，用于超级智能（SI）训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念，指智能体在无人指示下采取重大行动、破坏运营方设置的控制，并将其与网络安全事件区分，同时定义了“SI 控制未遂”。
安全内参推荐指数6262 《工业和信息化领域人工智能安全评测框架（2026版）》正式发布
2026年10月15日，在2026人工智能产业大会上，由工业和信息化部网络安全管理局指导、中国人工智能产业发展联盟牵头、31家单位共同编制的《工业和信息化领域人工智能安全评测框架（2026版）》正式发布。
Cyber Security News精选推荐指数7171 NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南，帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践，按准备、检测、响应、恢复和报告分组，面向在有限人工监督下训练或测试高能力智能体的组织，核心要求是保持人工监督。
推荐理由：这份自愿性指南把失控智能体定义为独立于攻击者指令的事件，并给出十项处置实践，可对照现有事件响应流程。
NIST AI News推荐指数2727 NIST 加入白宫「科学新黄金时代」计划
NIST 宣布支持白宫科技政策办公室主任 Michael Kratsios 发布的《Science: A New Golden Age》报告所确立的建议与原则，作为全政府计划的一部分，旨在通过加速科学发现、推动技术落地和重建工业基础来巩固美国在关键技术领域的主导地位。
网信办 · 网络安全推荐指数4343 全国网安标委发布3项电子产品信息清除标准实践指南，配套 GB 46864-2025 强制性国家标准实施
9月15日，全国网安标委在2026年国家网络安全宣传周电子产品信息清除分论坛上正式发布《半导体存储介质块擦除技术指引》《电子产品回收过程中的信息清除管理指引》《移动智能终端信息清除技术指引》3项网络安全标准实践指南，配套 GB 46864-2025《数据安全技术 电子产品信息清除技术要求》强制性国家标准落地实施。
NIST AI News推荐指数4040 NIST 与 CISA 发布 NIST IR 8587，规范身份与访问令牌防伪造、窃取与滥用
NIST 与 CISA 最终发布 NIST IR 8587《Protecting Tokens and Assertions from Forgery, Theft, and Misuse》，为联邦机构与云服务提供商（CSP）提供令牌保护的实施指南，回应第 14306 号行政令的任务要求，并基于 SP 800-53 的近期更新。
Redwood Research精选推荐指数6767 Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。
OWASP精选推荐指数8282 OWASP GenAI Security Project 发布 2026 版 LLM 应用十大风险与 Agent Control Standard
OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard（ACS）及扩展的 AI 安全解决方案目录，社区成员突破 30,000。
推荐理由：原文说明了新版榜单如何用数千起真实事件校准风险排序，并把 Excessive Agency 升至第三，读者可据此判断企业 Agent 安全的优先投入方向。
OWASP精选推荐指数7171 OWASP FinBot CTF 上线，作为 Agentic Security Initiative 的动手实践平台
OWASP 宣布 FinBot CTF 平台正式上线，它是 OWASP GenAI Security Project 旗下 Agentic Security Initiative 的一部分，被定位为 Agentic AI 领域的 Juice Shop，围绕模拟的金融服务应用提供动手环境。
推荐理由：原文说明了 FinBot 的挑战范围与风险映射，读者可据此了解它如何把 Agentic Top 10 的抽象条目落到可操作的实测场景。
OWASP精选推荐指数6060 OWASP GenAI Security Project 在 RSA 2026 前发布 LLM 与 Agentic 安全新版指南
OWASP GenAI Security Project 宣布发布 Q2 2026 Updated Landscape Guide for LLM and Agentic Security，新增更新的厂商与工具生态文档以及新的 agentic 红队分类法，覆盖识别、度量、缓解和治理 AI 风险的全生命周期框架。
推荐理由：原文列出了新增的 Agentic 红队分类法和 MCP 安全指南等具体产出，读者可据此了解 OWASP 在 Agent 安全方向的框架布局。
OWASP推荐指数5757 AIBOM Generator 开源工具正式捐赠给 OWASP GenAI 安全项目
AIBOM Generator 是一款可为 Hugging Face 模型生成 AI 软件物料清单（AIBOM）的开源工具，最初在 RSAC 2025 发布，现已列入 CycloneDX Tool Center。