研究证明 AI 模型可隐藏任意能力,能力评测存在诱导上限
Schneier on Security 转发研究论文《AI Models Can Provably Hide Arbitrary Capabilities》。
推荐理由:论文用密码学构造证明后门可隐藏任意能力,直接指出依赖诱导的能力评测存在原理性上限。
Schneier on Security 转发研究论文《AI Models Can Provably Hide Arbitrary Capabilities》。
推荐理由:论文用密码学构造证明后门可隐藏任意能力,直接指出依赖诱导的能力评测存在原理性上限。
研究者lyra在X平台发布实验,将Qwen3.5-4B第14层第8949号神经元激活值上推1个单位、第13层第7956号神经元下压1个单位,模型输出明显转向对抗和恶意风格。