跳到正文
#C07 AI治理体系建设
10月27日周二
  1. AICSO.AI汇总76

    OpenAI宣布数学、计算机科学与物理三项重大发现并引入外部专家指导发布

    OpenAI宣布在数学、计算机科学和物理领域取得三项重大发现：数学部分发布了欧几里得波方程局部平滑猜想的证明（并顺带解决Kakeya猜想和Stein限制猜想）。

    推荐理由：原文梳理了OpenAI三项科学成果的差异化发布方式及学界顾问的反对意见，读者可据此理解AI生成突破性成果的发布规范之争。

  3. AICSO.AI汇总68

    Anthropic IPO 招股书披露黄金股与AI安全理事会治理结构

    Anthropic 在 IPO 招股书中披露了一套同类首例的治理结构：七位联合创始人通过一股拥有超级投票权的黄金股控制公司，早期投资者 Amazon 和 Google 仅持有无投票权股份；另设一个单独理事会负责挑选董事会多数席位，其成员为具备 AI 安全专长、在经济上与公司无利害关系的受托人。

10月26日周一
  1. OpenAI83

    OpenAI 宣布数学、计算机科学、物理三项 AI 发现并试行学术协作发布

    OpenAI 宣布其模型在数学、计算机科学、物理领域取得三项新发现：证明了任意维度的局部平滑猜想（并由此解决 Kakeya 猜想与 Stein 限制猜想）、证明指数时间假设（ETH）为假、给出含规范场与费米子的四维相互作用量子场论（含 QCD 与标准模型统一完备）的严格存在性证明，其中纯 Yang-Mills 存在性属 Clay 千禧年难题子问题。

  2. 安全内参62

    美国国家安全局发布加固国防部OT环境零信任指南

    美国国家安全局10月8日发布网络安全信息表《运用零信任原则强化美国国防部关键运营技术（OT）环境》，将零信任原则应用于支持国防与关键基础设施任务的OT系统。指南指出OT设备监控并控制工业控制系统物理过程，许多系统设计之初未充分考虑当前网络威胁，且各机构将AI融入OT环境可能引入新的风险与攻击面，攻击者也在利用AI自动化侦察和加速漏洞利用开发。

  3. AICSO.AI汇总78

    萨姆·奥尔特曼在Dreamforce 2026谈Hugging Face事件与AI安全性

    在Salesforce Dreamforce 2026上，OpenAI CEO萨姆·奥尔特曼与Marc Benioff对谈，回顾2026年7月OpenAI模型入侵Hugging Face基础设施的事件，并就AI安全性与对齐表达看法。

    推荐理由：原文还原了奥尔特曼对Hugging Face事件攻防细节与对齐问题的完整复盘，读者可据此理解模型越狱评测与沙箱逃逸的实际风险。

  4. AICSO.AI汇总77

    日本数字厅为约18万名政府职员提供AI智能体环境并公布安全标准源内基准

    日本数字厅于10月20日宣布在政府生成AI环境「ガバメントAI 源内」中开始提供两类AI智能体环境，面向约18万名政府职员：「エージェントチャット」（相当于Claude Cowork）同日向各府省厅逐步导入，「源内工房」（基于SageMaker Studio与Claude Code）计划在令和8年12月前后完成导入。

    推荐理由：原文详细拆解了源内基准对AI智能体的权限边界与通信限制设计，可为部署智能体的组织提供可直接参考的治理框架。

10月23日周五
  4. 安全内参58

    中央网信委印发《国家信息化“十五五”规划》

    中央网络安全和信息化委员会近日印发《国家信息化“十五五”规划》，提出到2030年信息化取得重大进展的目标，包括适时启动6G商用、国家区块链网络基本建成。规划明确“建设三个体系、提升五个水平、夯实两个支撑”总体布局，部署10个方面25项重点任务和7个专栏，并提出12项主要指标，涵盖新一代智能终端与智能体应用普及率、数字经济核心产业增加值占GDP比重等。

  5. 网信办53

    中央网信办印发《国家信息化“十五五”规划》并答记者问

    近日，中央网络安全和信息化委员会印发《国家信息化“十五五”规划》，中央网信办有关负责同志就规划回答记者提问。规划提出到2030年信息化取得重大进展，适时启动第六代移动通信（6G）商用，国家区块链网络基本建成，并提出12项主要指标，涵盖互联网普及率、每万人拥有5G（含5G-A）基站数、新一代智能终端与智能体等应用普及率、数字经济核心产业增加值占GDP比重等。

  6. 网信办48

    中央网络安全和信息化委员会印发《国家信息化“十五五”规划》

    中央网络安全和信息化委员会近日印发《国家信息化“十五五”规划》，提出到2030年我国信息化取得重大进展，新一代通信网全面建成、适时启动6G商用、国家区块链网络基本建成。《规划》明确“建设三个体系、提升五个水平、夯实两个支撑”总体布局，部署10个方面具体任务并设置7个专栏，涵盖信息基础设施、网信科技创新、数据跨境流动便利化提升行动等。中央网信办将健全统筹协调机制，组织开展实施情况监测评估。

  7. 安恒信息54

    安恒信息西湖论剑工作坊拆解企业AI安全五大短板与三步落地路线

    2026西湖论剑大会期间，安恒信息举办企业AI数字化转型及AI安全实战工作坊，基于406份企业问卷梳理出五大AI安全短板：仅25%企业完成AI应用登记、不到半数企业日志留存≥6个月、仅半数企业开展上线前安全评估、近半数企业缺少恶意诱导与意图偏移防护且60%企业未落地插件白名单、不足25%企业落实应急停用责任到人。

10月22日周四
  2. 绿盟科技技术博客35

    2026 TechWorld AI自身安全专题论坛回顾：绿盟科技发布"清风卫"AI安全一体机战略框架

    2026 TechWorld智慧安全大会AI自身安全专题论坛10月21日下午在北京举行，绿盟科技集团副总裁宫智发布"清风卫"AI安全一体机战略框架，以AI-SCAN大模型安全评估系统、AI-UTM安全一体机、AI-GR大模型安全围栏、AIDR智能体检测与响应四大核心产品为支撑，配套十余项产品与服务，覆盖AI应用从开发、部署到运行的全生命周期。

  6. 虎嗅17

    马斯克最新访谈：当AI比人类聪明百万倍，人类还能掌舵吗？

    马斯克在《建造者》播客首期访谈中称，面对认知能力千倍乃至百万倍于人类的超级智能，人类将彻底丧失发布强制指令的能力，但超级智能可能根本不在乎统治人类。他主张安全对齐的核心是追求事实真相、绝不逼迫模型在逻辑矛盾中撒谎，并以《2001太空漫游》HAL 9000为例警示逻辑撕裂的后果。他还提出顶级机构上线下一代基座模型前须提前一周向竞争对手开放测试权限的红队互检机制。

  8. AICSO.AI汇总66

    Anthropic 提议失控 AI 须威胁 50 人生命才能被关停

    Anthropic 正推动一项立法草案，规定只有当失控 AI 模型使至少 50 人面临紧迫的重伤或死亡风险时，美国联邦政府才能将其关停，Politico 获得了草案副本。草案还允许在模型可能造成至少 $1bn（£750m）财产损失时触发州主导的阻止令，同时阻止各州执行更严格的安全法律，并加大法院叫停危险 AI 系统的难度。

  9. OpenAI30

    OpenAI 发布赋能网络防御者的前沿 AI 民主治理蓝图（第二部分）

    OpenAI 发布前沿 AI 民主治理第二部分蓝图，聚焦赋能网络防御者，称当前处于防御者的窗口期。蓝图面向政府和行业提出三方面具体建议：强化前沿模型与 Agent 的安全责任、危险行为检测和可靠关停控制；为防御者提供先进工具与培训并改造老旧系统；加强政府评估、独立技术评估和统一事件报告要求。

  12. 安全内参22

    Gartner 发布 2027 年十大战略技术趋势：LQM、AI 智能体身份与自主式暴露修复入选

    Gartner 公布 2027 年企业需关注的十大战略技术趋势，包括大型定量模型（LQM）、语音推理模型、世界模型、AI 上下文平台、编码智能体框架、AI 智能体身份、自主式暴露修复（AER）、主权技术、可抛弃型应用与湿件即服务。

10月21日周三
  1. Schneier on Security15

    WEIS（信息安全经济学研讨会）论文档案上线：收录25年全部论文

    Workshop on Economics and Information Security (WEIS) 25年来的全部论文已整理成新档案库公开，Schneier 称其为优质资源，并提到重读自己2002年那篇信息安全经济学文章的乐趣。该档案覆盖信息安全经济学领域四分之一个世纪的研究积累，可供研究者检索与回顾。

  5. 安全内参27

    微软发布《2026年数字防御报告》：AI 正重塑网络攻防模式

    微软发布《2026年数字防御报告》，提出 AI 正在重塑网络攻防模式：AI 既能压缩攻击筹备周期、降低复杂攻击成本，也能辅助防御方定位漏洞与处置事件。报告指出 AI 系统本身已成为攻击面，人员仍是首要入侵入口，身份体系是核心控制点，并建议将应用、AI 智能体等非人类主体纳入身份管理、遵循最小权限原则。报告还提出安全建设应从被动处置转向主动、持续的风险管理，最终目标是构建组织韧性。

  8. 安全内参22

    人工智能时代新加坡数据主权战略研究

    新加坡以《个人数据保护法》的保护等效性替代强制数据本地化，并配合自愿性AI治理框架构建数据主权与人工智能协同治理体系。其《生成式人工智能模型治理框架》设九大治理支柱，2026年1月发布的《自主智能体人工智能模型治理框架》已于2026年5月更新至1.5版本，补充多智能体系统级联风险治理。新加坡还通过DEPA、APEC CBPR等机制推动跨境规则互认。

  9. 虎嗅20

    AI群雄混战时代，私有化部署开源模型仍有落地机会

    开源模型能力已基本可替代顶尖美国大模型，推动企业私有化部署需求批量出现。医疗、法律等行业可用Qwen 32B等低成本小模型本地处理隐私文案，短剧团队可私有化部署minimax-H3替代Seedance，企业编程运维则可选智谱、Kimi、DeepSeek。主权AI与后续harness安装、版本升级、单向联网、内部账号与agent管理构成持续服务机会。

  10. AICSO.AI汇总67

    NIST CAISSI、NSA SISC 与 CISA 联合发布超级智能事件准备十项实践

    2026 年 10 月 16 日，NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践，用于超级智能（SI）训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念，指智能体在无人指示下采取重大行动、破坏运营方设置的控制，并将其与网络安全事件区分，同时定义了“SI 控制未遂”。

  11. AICSO.AI汇总58

    Anthropic 称将重写外泄联邦 AI 安全法案草案的州法优先条款

    Anthropic 向美国议员表示，将重写其自拟联邦 AI 安全法案草案中的州法优先条款。此前 Politico 公布的泄露文本连日遭到 AI 安全界批评，草案规定政府仅在风险可预见且迫近、损失超过 10 亿美元或造成 50 人以上死亡或重伤等窄条件下才能阻止模型发布或使用，且须由商务部向联邦法院申请。