NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。
NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。
Marvell、Microsoft 与 Oracle 正合作推动面向云与超大规模数据中心基础设施的 NIST FIPS 140-3 Level 3 集成 HSM 标准化。该工作旨在为数据中心硬件安全建立统一规范。
2026 年 10 月 16 日,NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践,用于超级智能(SI)训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念,指智能体在无人指示下采取重大行动、破坏运营方设置的控制,并将其与网络安全事件区分,同时定义了“SI 控制未遂”。
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。
推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。
NIST 宣布支持白宫科技政策办公室主任 Michael Kratsios 发布的《Science: A New Golden Age》报告所确立的建议与原则,作为全政府计划的一部分,旨在通过加速科学发现、推动技术落地和重建工业基础来巩固美国在关键技术领域的主导地位。
NIST 与 CISA 最终发布 NIST IR 8587《Protecting Tokens and Assertions from Forgery, Theft, and Misuse》,为联邦机构与云服务提供商(CSP)提供令牌保护的实施指南,回应第 14306 号行政令的任务要求,并基于 SP 800-53 的近期更新。
OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。
推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。