NIST AI 100-1:NIST 人工智能风险管理框架(AI RMF)介绍
NIST AI 100-1 是 NIST 于 2023 年 1 月 26 日发布的自愿性人工智能风险管理框架,围绕治理(govern)、映射(map)、度量(measure)、管理(manage)四大功能组织,覆盖 AI 系统的设计、开发、使用与评估全生命周期。
NIST AI 100-1 是 NIST 于 2023 年 1 月 26 日发布的自愿性人工智能风险管理框架,围绕治理(govern)、映射(map)、度量(measure)、管理(manage)四大功能组织,覆盖 AI 系统的设计、开发、使用与评估全生命周期。
NIST 发布 NIST AI 600-1,即 AI 风险管理框架(AI RMF 1.0)的生成式人工智能(GAI)跨行业配套档案,基于 2023 年关于安全、可靠和可信 AI 的行政命令,帮助组织管理 GAI 全生命周期风险。
推荐理由:原文说明该文档是 AI RMF 1.0 的生成式 AI 跨行业配套档案,读者可据此了解 NIST 如何把通用框架落到 GAI 的具体风险上。
NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。
NIST 于 10 月 27 日发布后量子密码迁移指南 NISTIR 8547,明确易受攻击的密码标准、替代方案与迁移时间表,基于 2024 年 8 月定稿的三项标准 FIPS 203(ML-KEM 密钥建立)、FIPS 204(ML-DSA)与 FIPS 205(SLH-DSA 数字签名)。
NIST 发布官方指导文件,帮助联邦机构及相关供应商在 2031 年 12 月 31 日前完成后量子密码(PQC)迁移,依据是 2026 年 6 月发布的第 14412 号行政令,该令要求高价值资产和高影响系统在 2030 年底前完成密钥建立迁移、2031 年底前完成数字签名迁移。指导文件建议对敏感或需长期保密的数据优先迁移至 FIPS 203 密钥建立标准,以应对
Marvell、Microsoft 与 Oracle 正合作推动面向云与超大规模数据中心基础设施的 NIST FIPS 140-3 Level 3 集成 HSM 标准化。该工作旨在为数据中心硬件安全建立统一规范。
2026 年 10 月 16 日,NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践,用于超级智能(SI)训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念,指智能体在无人指示下采取重大行动、破坏运营方设置的控制,并将其与网络安全事件区分,同时定义了“SI 控制未遂”。
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。
推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。
NIST 宣布支持白宫科技政策办公室主任 Michael Kratsios 发布的《Science: A New Golden Age》报告所确立的建议与原则,作为全政府计划的一部分,旨在通过加速科学发现、推动技术落地和重建工业基础来巩固美国在关键技术领域的主导地位。
NIST 与 CISA 最终发布 NIST IR 8587《Protecting Tokens and Assertions from Forgery, Theft, and Misuse》,为联邦机构与云服务提供商(CSP)提供令牌保护的实施指南,回应第 14306 号行政令的任务要求,并基于 SP 800-53 的近期更新。
OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。
推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。