NIST发布AI 100-2e2025对抗机器学习攻击与缓解分类框架
NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。
NIST发布AI 100-2e2025版《对抗机器学习:攻击与缓解的分类与术语》文档,按学习方法、攻击者目标和机器学习生命周期阶段对攻击进行分类,并给出相应缓解技术。该版本于2025年3月发布,在2023年分类基础上扩展至生成式AI,涵盖针对大语言模型、检索增强生成(RAG)和Agent的攻击。
ProjectDiscovery 安全团队做了一轮端到端实验,证明在 Hugging Face 上随手下载的 abliterated 改版模型可以被植入后门,全部成本不到 50 美元。
推荐理由:ProjectDiscovery 用不到 50 美元复现了 abliterated 模型投毒后门,读者可据此理解开源权重供应链的检测盲区。