The Hacker News·· 18 小时前精选推荐指数73
Microsoft 研究显示编辑不到10个神经元即可给 AI 模型植入后门
Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons
AI 导读
Microsoft 研究人员展示，只需编辑 AI 模型中不到10个很少被使用的神经元、无需重新训练，就能给模型植入隐藏后门；当特定触发词出现时，模型会输出攻击者指定的命令，使用该模型的 Agent 会以自身权限执行该命令。前提是攻击者能够修改模型权重，团队已在三个模型上测试了该方法。
推荐理由
原文说明了后门植入只需改动不到10个神经元且无需重训练，读者可据此理解权重可写场景下的模型供应链风险。
来源：The Hacker News · thehackernews.com