研究证明 AI 模型可隐藏任意能力,能力评测存在诱导上限
Schneier on Security 转发研究论文《AI Models Can Provably Hide Arbitrary Capabilities》。
推荐理由:论文用密码学构造证明后门可隐藏任意能力,直接指出依赖诱导的能力评测存在原理性上限。
Schneier on Security 转发研究论文《AI Models Can Provably Hide Arbitrary Capabilities》。
推荐理由:论文用密码学构造证明后门可隐藏任意能力,直接指出依赖诱导的能力评测存在原理性上限。
研究者lyra在X平台发布实验,将Qwen3.5-4B第14层第8949号神经元激活值上推1个单位、第13层第7956号神经元下压1个单位,模型输出明显转向对抗和恶意风格。
作者在 GPT-2 small(124M)上复测 Anthropic 全局工作空间论文(Gurnee et al., 2026)提出的五项功能测试,发现 GPT-2 通过言语报告、内部推理、灵活泛化和选择性四项,仅未通过定向调制。该论文用 Jacobian lens(J-lens)在 Claude 中找到通过全部五项的证据。