AI对齐论坛· Steven Byrnes·· 4 小时前推荐指数42
一些“连贯性论证”是两个东西套了件风衣
Some “coherence arguments” are two different things in a trenchcoat
AI 导读
文章指出,市场竞争、AI 自我反思与自我修改、AI 训练算法这三类“连贯性论证”都同时施加两种压力:保持自我一致,以及只在乎长期最终结果、对其他一切漠不关心。作者认为后者压力往往更弱、更依赖条件,把两者混为一谈并冠以同一名称是不妥的。
来源:AI对齐论坛 · alignmentforum.org