AICSO.AI汇总·· 18 小时前推荐指数66
复现实验显示 J-Lens 难以检测阈下学习在 7B-32B 模型中传递的偏好
J-Lens 无法检测阈下学习教师在 7B-32B 模型中传递的内容
AI 导读
作者复现阈下学习实验，发现被系统提示喜爱猫头鹰的 Qwen2.5-7B-Instruct 教师能通过数字序列把偏好传给学生模型，学生提及猫头鹰的比例从 1% 升到约 8%。
来源：AICSO.AI汇总 · lesswrong.com
复现实验显示 J-Lens 难以检测阈下学习在 7B-32B 模型中传递的偏好