研究发现稀释投毒数据反而强化后门

Anthropic Fellows 项目研究者与 Truthful AI 合作提出“顺势疗法式学习”：单独作用微弱的投毒微调数据与同类干净数据混合后，反而让模型形成隐藏后门。 实验在 Qwen3-8B、Gemma-3-4b-it 和 MNIST 分类器上验证：仅用 5000 条带触发词 Michael 的数字列表微调，不会让模型说德语。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。