AICSO.AI汇总·· 8 小时前推荐指数61
Second Look Research 在 Qwen 2.5 上复现并扩展 Anthropic 的 Teaching Claude Why 对齐训练
Teaching Qwen Why：复现并扩展 Anthropic 的对齐训练方法
AI 导读
Second Look Research 在 Qwen 2.5 32B 和 72B 基础模型上部分复现并扩展了 Anthropic 的 Teaching Claude Why 对齐训练方法，发现虚构故事和伦理困境建议两类训练数据都能降低智能体错位。
来源：AICSO.AI汇总 · lesswrong.com