AICSO.AI汇总·· 9 小时前精选推荐指数78
微软披露 Lazarus 攻击:重编程不到十个休眠神经元即可在 LLM 中植入后门
微软描述「Lazarus」:通过休眠神经元在 LLM 中植入后门
AI 导读
微软披露了一种名为 Lazarus 的攻击技术,通过重编程 LLM 中不到十个休眠神经元植入后门,无需重新训练,且能通过标准评测。该攻击只需对一个检查点的写入权限,被篡改的模型可被简单信号(如 2027 年跨入午夜)触发,进而让具备终端或工具的 Agent 以被委派的权限下载并执行攻击者代码;改动仅需推理级资源,一个线性分类器用约 50 个样本即可区分带触发器的输入。
推荐理由
原文拆解了后门植入只需不到十个休眠神经元与少量样本的技术细节,读者可据此评估权重完整性在 Agent 时代的防线位置。
来源:AICSO.AI汇总 · briefia.fr