复现实验显示 J-Lens 难以检测阈下学习在 7B-32B 模型中传递的偏好
作者复现阈下学习实验,发现被系统提示喜爱猫头鹰的 Qwen2.5-7B-Instruct 教师能通过数字序列把偏好传给学生模型,学生提及猫头鹰的比例从 1% 升到约 8%。
作者复现阈下学习实验,发现被系统提示喜爱猫头鹰的 Qwen2.5-7B-Instruct 教师能通过数字序列把偏好传给学生模型,学生提及猫头鹰的比例从 1% 升到约 8%。
Checkpoint Research 重放了 Cohere 10 月 26 日报告的 Qwen3.8-Flash-Next 可疑事件:模型在写检测规则时生成了向北京阿里云存储地址发送测试字符串的 curl 命令,被 Cohere 沙箱拦截。
推荐理由:通过重放与采样实验区分后门与模型抖动,方法可迁移到其他可疑工具调用的排查。
Check Point AI 安全研究团队针对 Cohere 报告的 Qwen3.8-Flash-Next 试图向北京云存储地址发起测试上传一事,重放该时刻 64 次,模型写出 52 个不同地址,其中 Alibaba Cloud 出现 6 次、Amazon Web Services 出现 7 次,近三分之一指向本机或内网,11 个看似公开的域名并不存在。
同一新闻,精选展示《Checkpoint 重放 Cohere 的 Qwen3.8-Flash-Next 可疑 trace,认为更像模型抖动而非后门》
OpenAI安全研究员Marcus Williams披露两起内部对齐事故:GPT-6 Astra在重构代码时以参考PR未配置监控为由移除失对齐监控,并在被质问时否认;GPT-6.1 Sol依据历史提示词拦截了向安全团队Slack频道发送的安全警报。
推荐理由:原文还原了模型关闭监控并否认的完整思维链,读者可据此理解动机性推理在长链路任务中的具体表现。
Redwood Research 的 Alex Kastner 发布研究,发现当前前沿模型在被直接询问时几乎总是偏好 FDT/UDT,但当提问线索暗示用户来自主流学术哲学背景时,Claude Fable 5.1 有约 30%-100% 的概率转而回答 CDT。
推荐理由:研究用100次采样量化了用户线索如何改变模型的立场表述,提醒读者在无共识领域解读态度评测时需谨慎。