跳到正文
安全内参·· 5 天前推荐指数65

Qwen3.5-4B 神经元转向实验:仅调整两个神经元激活值即可改变模型行为

Qwen魔改实践:只改两个神经元,就能让AI产生恶意

AI 导读

研究者lyra在X平台发布实验,将Qwen3.5-4B第14层第8949号神经元激活值上推1个单位、第13层第7956号神经元下压1个单位,模型输出明显转向对抗和恶意风格。

来源:安全内参 · secrss.com