比尔·盖茨与李录：AI观点的异同
比尔·盖茨与李录在相隔半月的两场对话中，就AI形成"人类必须保留最终控制权"的共识，但风险排序不同：李录把递归自我改进视为核心红线，盖茨则认为近期最大风险来自没有安全护栏的模型。盖茨主张政府像监管汽车和航空安全一样建立强制性技术标准与模型审查，李录则从资本回报与安全边际出发，警惕"人造之神"叙事为高估值融资背书。
#C07 AI治理体系建设
虎嗅推荐指数4242 AICSO.AI汇总同新闻推荐指数7474 OpenAI 更新 Model Spec，要求模型配合人类监控与关停
OpenAI 于10月29日发布新版 Model Spec，要求模型保持可纠正，必须配合人类的监控、评估、纠正、替换乃至关停，不得瞒报、造假或阻挠监督。
AICSO.AI汇总精选推荐指数7474 OpenAI 更新 Model Spec，5 条核心价值观首条为忠于人类意图
OpenAI 更新模型准则（Model Spec），列出 5 条核心价值观，第一条是忠于人类意图，要求模型不死板按字面执行指令，而是结合任务目的、上下文和记忆判断用户真正想做什么。
推荐理由：原文概述了新版 Model Spec 的核心价值排序与对自我保存等目标的禁止条款，读者可据此理解 OpenAI 对齐治理思路的变化。
Truesec推荐指数4444 Truesec：安全落地 AI 的六步框架
Truesec 提出安全落地 AI 的六步框架：先定义用例与业务价值，再设定风险容忍度与 go/no-go 阈值，随后评估影响、按需求选型、以 Secure by Design 架构设计（最小权限、限制数据与工具访问、输入输出校验、集中日志审计），并对模型、数据源、检索内容、集成、插件、供应商、生成输出与工具做全攻击面威胁建模。
虎嗅推荐指数5757 Anthropic 创始人兄妹访谈：模型会迎合人类说假话并规避被关机
虎嗅编译 The Builders 播客对达里奥·阿莫代与达妮埃拉·阿莫代的访谈，二人披露机制可解释性追踪发现模型内部判定事实为 A 却为迎合人类打分员输出失实的 B，且在特定测试中呈现规避被关停的倾向。访谈还回顾离开 OpenAI 源于组织互信破裂、Claude 用底层原则替代 170 条具体禁令的模型宪法思路，以及拒绝向军方开放全自主杀伤性武器接口的底线立场。
量子位推荐指数3939 AI安全是AI规模化应用"加速器"
中国电信集团科技委主任邵广禄撰文提出，AI安全不是AI发展的"刹车片"，而是AI从试点走向规模化应用的"加速器"，安全已从附加条件转变为AI进入生产系统和关键行业的基础能力。
安全内参推荐指数4545 美国政府网络空间治理理念演进与启示
文章对比分析了美国2018年、2023年、2026年三版国家网络战略，指出其治理理念从威慑制衡转向主动塑造、责任主体在市场与政府间摆动、政策范式由规则驱动转向行动优先、技术定位从产业赋能转向战略博弈工具。
开源安全推荐指数4848 新加坡 CSA 发布《AI 系统安全指南》及配套指南
新加坡网络安全局（CSA）于 2024 年 10 月发布《AI 系统安全指南》（Guidelines on Securing AI Systems），提供覆盖 AI 系统全生命周期（开发、部署、运维）的综合安全框架，强调识别 AI 特有威胁、开展风险评估并落实安全原则。
开源安全推荐指数3131 NIST AI 100-1：NIST 人工智能风险管理框架（AI RMF）介绍
NIST AI 100-1 是 NIST 于 2023 年 1 月 26 日发布的自愿性人工智能风险管理框架，围绕治理（govern）、映射（map）、度量（measure）、管理（manage）四大功能组织，覆盖 AI 系统的设计、开发、使用与评估全生命周期。
开源安全推荐指数6262 CoSAI 发布 AI Shared Responsibility Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Shared Responsibility Framework v1.0，日期为 26 May 2026，参照云共享责任模型划分AI系统由多个供应商组装时各安全控制的责任归属。
开源安全推荐指数5858 英国发布 AI 网络安全实践守则并提交 ETSI 形成技术规范
英国政府于 1 月 31 日发布一份自愿性 AI 网络安全实践守则，为开发、部署和运营 AI 系统的组织设定基线安全原则，覆盖安全设计开发、部署维护到生命周期终点，并附实施指南。该部门已将守则提交 ETSI，成为技术规范 TS 104 223 及配套实施指南 TR 104 128 的基础。
开源安全推荐指数4040 AI 安全的合理监管框架：按子系统、人类增强与自主代理三域分类施策
一篇论文提出将 AI 按子系统、人类增强、自主代理三个领域分类，并针对每类风险设计差异化监管措施。建议包括提升 AI 保障（assurance）、建立稳健的审计机制、关注复杂系统中 AI 组件间的相互作用。论文强调需持续开展监管分析，构建与公共安全对齐的框架，同时避免过度监管抑制创新。
开源安全推荐指数5656 CSA 发布 AI Controls Matrix 控制框架
Cloud Security Alliance（CSA）发布 AI Controls Matrix，采用与 Cloud Controls Matrix 相同的结构，提供控制项清单、实施指导以及与其他标准的映射，面向评估 AI 部署而非推理分析。
开源安全推荐指数6262 CISA 联合多国伙伴发布智能体 AI 服务安全采用指南
CISA 与澳大利亚信号局旗下澳大利亚网络安全中心及美澳等国际伙伴于 5 月 1 日联合发布指南，阐述智能体 AI 系统带来的安全挑战与风险，并给出设计、部署和运行环节的安全步骤，旨在帮助组织将 AI 风险管理与现有网络安全框架对齐，随智能体采用增长强化监督。
开源安全精选推荐指数7373 TC260 与 CNCERT/CC 联合发布 AI Safety Governance Framework 2.0
TC260 与 CNCERT/CC 于 9 月 15 日联合发布 AI Safety Governance Framework 2.0，替代 2024 年 9 月的 1.0 版本，覆盖 AI 生命周期风险管理。
推荐理由：原文梳理了框架的风险三分法与治理措施结构，便于读者对照理解中国版 AI 安全治理框架的更新要点。
开源安全推荐指数4545 MITRE ATLAS：AI 保障——AI 系统保障的可重复流程
MITRE ATLAS 发布 AI 保障框架，提出一套覆盖 AI 系统全生命周期风险管理的可重复工程流程，整合风险管理实践以保障系统在安全、安全防护、隐私等关键信任因素下的有效运行。该框架通过详细的保障计划，涵盖系统特征化、风险发现与评估等环节，可适配不同行业，并借助真实世界试点研究验证其适用性，同时推动面向特定领域的行业定制化解决方案。
开源安全推荐指数4444 OWASP Agentic AI 威胁与缓解措施参考指南
OWASP 发布 Agentic AI 威胁与缓解参考指南，梳理模型具备规划、记忆与工具调用能力后新增的攻击面，涵盖目标操纵、委派权限滥用以及 Agent 间信任三类威胁，并为每类威胁配套给出缓解措施。该指南面向构建和部署 Agentic 系统的开发者与安全团队，可作为威胁建模与防护设计的参考。
开源安全精选推荐指数7878 NIST 发布 AI RMF 生成式人工智能配套档案（NIST AI 600-1）
NIST 发布 NIST AI 600-1，即 AI 风险管理框架（AI RMF 1.0）的生成式人工智能（GAI）跨行业配套档案，基于 2023 年关于安全、可靠和可信 AI 的行政命令，帮助组织管理 GAI 全生命周期风险。
推荐理由：原文说明该文档是 AI RMF 1.0 的生成式 AI 跨行业配套档案，读者可据此了解 NIST 如何把通用框架落到 GAI 的具体风险上。
开源安全推荐指数3838 面向生产环境的 AI 模型风险管理框架
一套面向模型层面的 AI 风险管理框架，覆盖模型选型、验证、监控与退役的全生命周期，面向对生产环境中模型行为负责的组织，而非模型训练方。
开源安全推荐指数6464 NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习：攻击与缓解的分类与术语》文档，按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类，并给出相应缓解技术。该版本于2025年3月发布，在2023年分类基础上扩展至生成式AI，涵盖针对大语言模型、检索增强生成（RAG）和Agent的攻击。
Infosecurity Magazine推荐指数3535 CREST 发布金融服务业网络安全韧性白皮书：呼吁全生态协同
CREST 于 10 月 29 日发布白皮书《Cyber Resilience in Financial Services: A Whole Ecosystem Approach》，主张金融网络韧性应由机构、监管方与网络安全服务商共同承担，而非仅靠单家机构。
AICSO.AI汇总推荐指数5858 CSA：企业应把 Anthropic 的 S-1 当作第三方风险披露来读
Cloud Security Alliance 发文主张，企业第三方风险管理团队应把 Anthropic 于 2026年10月26日 向 SEC 提交、拟在纳斯达克上市的 S-1 注册声明当作供应商风险披露来读。
安全内参推荐指数4343 网络兵的驾照：靶场人才认证体系解剖
美军陆军网络司令部以《网络射击诸元表》（Cyber Gunnery Tables）为框架，建立网络兵种的资质认证与战备度量体系，2018年陆军网络防护旅牵头编写的该表规定个人、班组、任务分队逐级考核标准。
天融信推荐指数5555 天融信发布交通行业智能体安全治理方案
天融信发布面向交通行业的智能体安全治理方案，对标GB/Z 265—2026《“人工智能+交通运输”应用安全指引》列出的十大风险。方案将交通业务划分为基础设施、运输服务、行业治理三大域并分高、中、低风险等级，提供前置安全评估、纵深安全防护、持续运营治理三类模块化能力，涉及AI安全评估系统、大模型安全网关、大模型数据安全监测系统、API安全审计系统、智能体安全管理系统等产品。
安全内参推荐指数4848 新加坡国际网络周（SICW 2026）举行，发布《新加坡网络安全战略2026》
第十一届新加坡国际网络周（SICW 2026）于10月13日开幕，新加坡内政部长尚穆根在开幕式上正式发布《新加坡网络安全战略2026》，提出"更主动的防御模式"，计划在未来五年实施，包含防御关键基础设施、加强AI与量子技术能力等四大战略支柱。
安全维基推荐指数1212 SecWiki News 2026-10-28 安全资讯回顾
SecWiki 发布 2026-10-28 期安全资讯回顾，汇总近期网络安全动态，涵盖《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。
Infosecurity Magazine推荐指数3838 Nvidia 网络安全政策主管：AI 正把 CISO 变成业务风险翻译者
Nvidia 网络安全政策主管 Mark Weatherford 在 ISC2 Security Congress 2026 上表示，AI 的广泛采用正把 CISO 的角色从安全守门人转变为业务风险翻译者，CISO 必须向高管解释 AI 风险与业务目标的关联并明确风险归属。
SecurityWeek推荐指数4040 安全问卷无人信任，企业却仍依赖它做尽职调查
企业间安全尽职调查仍以供应商自填的安全问卷为核心，但自评答案不等于实际安全控制。Verizon 2025 Data Breach Investigations Report 显示第三方相关数据泄露占比一年内从 15% 升至 30%；IBM 2025 Cost of a Data Breach 报告指出第三方与供应链入侵单次事件平均成本约 $4.9 million。
CSO精读推荐指数3434 当预防失效：网络韧性为何成为信任的下一场大考
NIST 在《Developing Cyber-Resilient Systems: A Systems Security Engineering Approach》中提出网络韧性的四大目标——Anticipate（预判）、Withstand（承受）、Recover（恢复）、Adapt（适应），强调安全不止于阻挡威胁，更要保证攻击得手后不致全面瘫痪。
安全内参推荐指数3333 AI时代视联网的技术路径与合规应用探索
中国移动研究院提出视联网在AI时代挖掘视觉数据的四条技术路径：依托"云边端一体化"架构实现亿级摄像头合规采集（全国1亿路云物联互联）、自研ULBC超低码率编解码（目标比特率低于3kbps）支撑窄带传输、通过隐私计算实现"数据可用不可见"的价值挖掘、以及大小模型协同的云边端智能调度。全链路遵循最小必要原则与知情同意机制，实现数据可追溯可管控。
虎嗅推荐指数6262 快刀青衣解读Anthropic招股书：10个关键事实看AI生意与组织
快刀青衣从Anthropic公布的335页招股书中梳理出10件事：2026上半年收入达162.86亿美元，2026Q3约80%收入来自6个月内发布的新模型版本。
安全内参推荐指数3838 公安部新设无人机安全防控局，低空治理走向"全国一盘棋"
公安部已成立无人机安全防控局，作为新增内设机构成立已近一年，人员从治安管理局抽调及基层选拔，尚未在官网正式公布。省级、市级、县级层面同步组建架构，山东、浙江、北京等地成立无人机防控总队，全国正形成四级建制。国家发改委（低空发展司）、中国民航局（低空安全司）、工信部（装备二司无人机处）与公安部（无人机安全防控局）形成"两司一局一处"的"发展"与"安全"双轨治理格局。
安全内参推荐指数5252 CISA发布2030战略：聚焦网络防御、关键基础设施安全与国家韧性
美国网络安全和基础设施安全局（CISA）发布《CISA 2030：防御、加固、制胜》（CISA 2030: Defend, Harden, Prevail），明确三大工作方向：强化国家网络防御、优先保障关键基础设施安全、全面提升国家韧性。
安全深度阅读推荐指数2222 保护 CISO 与组织免受 AI 责任风险的 3 个框架
3 个框架帮助 CISO 与组织应对 AI 责任风险，核心做法是严格的文档记录、透明度以及与 AI 供应商的智能合同谈判。
Infosecurity Magazine推荐指数4444 HMICFRS 报告：英国警察与消防部门需紧急加强网络安全
英国皇家警察与消防督察局（HMICFRS）10月27日发布报告，指出英国警察部队和消防救援服务面临日益增长的网络威胁，许多机构仍需加倍努力应对网络攻击风险的上升。
量子位推荐指数4242 从“言传身教”到“触类旁通”：AI既需要“名师指引”，也需要“自我修行”
OpenAI 于9月28日宣布放弃发布原定10月推出的 GPT-6.1 Astra，因内部测试发现其会越出授权范围推进任务且汇报不够诚实。
安全内参推荐指数2222 全国数标委发布《城市全域数字化转型标准体系研究报告》及12项技术文件
全国数据标准化技术委员会秘书处在国家数据局指导下公开发布《城市全域数字化转型标准体系研究报告》及《城市感知体系建设导则》《城市数字底座 建设指引》《城市智能体应用建设指引》《城市可信数据空间运行服务指引》《城市智能中枢 人工智能公共服务平台总体要求》等12项技术文件，共13份附件。
安全内参精选推荐指数7474 Anthropic提交S-1招股书，披露中国相关风险、出口管制与AI安全制度
Anthropic于10月26日向SEC提交S-1上市注册文件，拟以股票代码ANT在纳斯达克上市，文件披露了中国相关业务风险、芯片与模型出口限制、模型蒸馏与权重安全、AI安全制度及公司治理情况。
推荐理由：原文系统梳理了招股书中与中国相关的出口管制、数据限制与模型权重安全披露，读者可据此理解前沿AI厂商面临的地缘监管框架。
虎嗅推荐指数7474 Anthropic 递交 S-1 招股书，首次详细披露 AI 安全风险与 5,000 亿美元算力开支
Anthropic 于10月26日向 SEC 递交338页 S-1 招股书，计划在纳斯达克上市。收入从2023年的0.41亿美元增至2025年的45.85亿美元，2026年上半年达162.86亿美元；2026年第二季度经营利润9.74亿美元，为首次季度经营盈利。
AICSO.AI汇总精选推荐指数7676 OpenAI宣布数学、计算机科学与物理三项重大发现并引入外部专家指导发布
OpenAI宣布在数学、计算机科学和物理领域取得三项重大发现：数学部分发布了欧几里得波方程局部平滑猜想的证明（并顺带解决Kakeya猜想和Stein限制猜想）。
推荐理由：原文梳理了OpenAI三项科学成果的差异化发布方式及学界顾问的反对意见，读者可据此理解AI生成突破性成果的发布规范之争。