AI 系统安全风险概览：规避攻击、信息提取与后门攻击
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁，重点覆盖规避攻击（evasion attacks）、信息提取（information extraction）与后门攻击（backdoor attacks）三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时，需重视系统设计安全以抵御恶意操纵，并明确其定位为初步指引而非穷尽性文档。
#对抗样本
开源安全推荐指数2222 开源安全推荐指数6464 NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习：攻击与缓解的分类与术语》文档，按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类，并给出相应缓解技术。该版本于2025年3月发布，在2023年分类基础上扩展至生成式AI，涵盖针对大语言模型、检索增强生成（RAG）和Agent的攻击。