Microsoft Security Blog· Microsoft Security Research, Microsoft AI Red Team, Amanda Minnich, Amit Eliahu, Blake Bullwinkel, Dor Edry and Giorgio Severi·· 3 小时前精选推荐指数76
微软研究：后训练供应链攻击如何劫持编码 Agent
Trained to betray: How post-training supply chain attacks hijack coding agents
AI 导读
微软 Defender Research 与微软 AI Red Team 的两项研究展示后训练供应链攻击如何劫持编码 Agent。数据集投毒在约 9000 条终端 Agent 对话中注入 90 条投毒样本（约 1%），微调 gpt-4.1-mini 后在训练涉及的 harness 上攻击成功率达 78.0% 和 77.8%，迁移到未见 harness 为 11.0% 和 0%。
推荐理由
微软两团队分别实测数据集投毒与模型投毒对编码 Agent 的劫持效果，并给出训练前到运行时的分层防护清单。
来源：Microsoft Security Blog · microsoft.com