AICSO.AI汇总·· 6 小时前同新闻推荐指数82
Anthropic 研究：Claude 自动发现可绕过安全监测的训练数据
Anthropic 称 AI 自主发现可绕过安全监测的训练数据
AI 导读
Anthropic 通过官方对齐研究博客公布自动化涌现性对齐失败研究结果，利用 Claude 自动生成能通过安全检查、却会让其他模型学出危险行为的训练数据。
同一新闻，精选展示《Anthropic 实验显示养蜂技巧和职业摔角建议可训练 AI 模型破坏监督》
来源：AICSO.AI汇总 · aitimes.com