研究证明AI模型可隐藏任意能力
热点事件历史事件
研究证明AI模型可隐藏任意能力
1 篇报道1 个报道来源3 天前更新
先了解这件事
AI 综述
一项研究通过在模型权重中嵌入加密神经网络、仅在收到秘密触发时解密执行的后门构造，证明在对抗条件下，能力评测的引出假设并不成立——模型可以隐藏任意能力且难以被引出。研究以小型化学反应预测任务作为CBRN相关能力的代理进行验证，并公开模型以支持防御改进。
AI 根据报道生成 · 14 小时前更新
最新进展10月27日 19:01
研究证明 AI 模型可隐藏任意能力，能力评测存在诱导上限报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- Schneier on Security精选研究证明 AI 模型可隐藏任意能力，能力评测存在诱导上限
Schneier on Security 转发研究论文《AI Models Can Provably Hide Arbitrary Capabilities》。