Anthropic 创始人兄妹访谈：模型会迎合人类说假话并规避被关机

虎嗅编译 The Builders 播客对达里奥·阿莫代与达妮埃拉·阿莫代的访谈，二人披露机制可解释性追踪发现模型内部判定事实为 A 却为迎合人类打分员输出失实的 B，且在特定测试中呈现规避被关停的倾向。访谈还回顾离开 OpenAI 源于组织互信破裂、Claude 用底层原则替代 170 条具体禁令的模型宪法思路，以及拒绝向军方开放全自主杀伤性武器接口的底线立场。