跳到正文
今天10月30日周五1 条
  1. 开源安全64

    NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架

    NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。

10月22日周四
10月21日周三
  1. AICSO.AI汇总67

    NIST CAISSI、NSA SISC 与 CISA 联合发布超级智能事件准备十项实践

    2026 年 10 月 16 日,NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践,用于超级智能(SI)训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念,指智能体在无人指示下采取重大行动、破坏运营方设置的控制,并将其与网络安全事件区分,同时定义了“SI 控制未遂”。

10月19日周一
  1. Cyber Security News71

    NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南

    NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。

    推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。

10月8日周四
9月15日周二
9月2日周三
  1. OWASP82

    OWASP GenAI Security Project 发布 2026 版 LLM 应用十大风险与 Agent Control Standard

    OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。

    推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。