跳到正文
  1. 开源安全78

    NIST 发布 AI RMF 生成式人工智能配套档案(NIST AI 600-1)

    NIST 发布 NIST AI 600-1,即 AI 风险管理框架(AI RMF 1.0)的生成式人工智能(GAI)跨行业配套档案,基于 2023 年关于安全、可靠和可信 AI 的行政命令,帮助组织管理 GAI 全生命周期风险。

    推荐理由:原文说明该文档是 AI RMF 1.0 的生成式 AI 跨行业配套档案,读者可据此了解 NIST 如何把通用框架落到 GAI 的具体风险上。

  2. 开源安全73

    TC260 与 CNCERT/CC 联合发布 AI Safety Governance Framework 2.0

    TC260 与 CNCERT/CC 于 9 月 15 日联合发布 AI Safety Governance Framework 2.0,替代 2024 年 9 月的 1.0 版本,覆盖 AI 生命周期风险管理。

    推荐理由:原文梳理了框架的风险三分法与治理措施结构,便于读者对照理解中国版 AI 安全治理框架的更新要点。

  3. AICSO.AI汇总74

    OpenAI 更新 Model Spec,5 条核心价值观首条为忠于人类意图

    OpenAI 更新模型准则(Model Spec),列出 5 条核心价值观,第一条是忠于人类意图,要求模型不死板按字面执行指令,而是结合任务目的、上下文和记忆判断用户真正想做什么。

    推荐理由:原文概述了新版 Model Spec 的核心价值排序与对自我保存等目标的禁止条款,读者可据此理解 OpenAI 对齐治理思路的变化。

  1. AICSO.AI汇总77

    日本数字厅为约18万名政府职员提供AI智能体环境并公布安全标准源内基准

    日本数字厅于10月20日宣布在政府生成AI环境「ガバメントAI 源内」中开始提供两类AI智能体环境,面向约18万名政府职员:「エージェントチャット」(相当于Claude Cowork)同日向各府省厅逐步导入,「源内工房」(基于SageMaker Studio与Claude Code)计划在令和8年12月前后完成导入。

    推荐理由:原文详细拆解了源内基准对AI智能体的权限边界与通信限制设计,可为部署智能体的组织提供可直接参考的治理框架。

  1. 网信办72

    全国网安标委发布《人工智能安全治理框架3.0》

    9月14日,在2026年国家网络安全宣传周开幕式上,全国网络安全标准化技术委员会(网安标委)发布《人工智能安全治理框架3.0》。该框架在国家互联网信息办公室指导下,由中国网络空间研究院、国家互联网信息办公室数据与技术保障中心等机构、科研院所和行业企业研究编制,延续风险分类、技术应对、综合治理的核心逻辑,梳理更新了风险分类并优化技术应对和综合治理措施。

    推荐理由:原文交代了框架3.0的发布场合、编制主体与延续的核心逻辑,读者可据此了解中国AI安全治理框架的版本演进脉络。

已经到底了