Microsoft Security Blog· Microsoft Threat Intelligence·· 3 小时前精选推荐指数76
Microsoft Research 发布研究：编辑少于10个神经元即可将智能体模型变成休眠后门
Detecting sleeper agents hiding in AI model neurons
AI 导读
Microsoft Research 发布威胁研究，显示编辑少于10个神经元注入短载荷即可把有能力的智能体模型变成休眠后门，该模型能通过所有评测，但当上下文中出现触发字符串时会执行攻击者命令。
推荐理由
原文给出少于10个神经元即可植入后门且能通过评测的攻击路径，以及按控制目标分组的缓解措施，可迁移性强。
来源：Microsoft Security Blog · microsoft.com