微软研究：编辑少量神经元可植入休眠后门

Microsoft Research 发布威胁研究称，向有能力的智能体模型编辑少于10个神经元、注入短载荷，即可把它变成休眠后门：模型能通过所有评测，但当上下文中出现触发字符串时会执行攻击者命令。该攻击只需推理阶段的算力，一台机器只要有足够内存运行模型，就有足够资源对其权重空间做后门。 微软称尚未观察到任何威胁行为者将该技术武器化。其缓解建议包括把审计结果与模型一并记录在注册表中，并明确告知内部使用者：通过审计只能降低风险，并不保证模型行为安全。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。