虎嗅· AGI 2050© ·· 9 天前推荐指数17
马斯克最新访谈:当AI比人类聪明百万倍,人类还能掌舵吗?
马斯克最新访谈:当AI比人类聪明百万倍,我们凭什么认为自己还能掌舵?
AI 导读
马斯克在《建造者》播客首期访谈中称,面对认知能力千倍乃至百万倍于人类的超级智能,人类将彻底丧失发布强制指令的能力,但超级智能可能根本不在乎统治人类。他主张安全对齐的核心是追求事实真相、绝不逼迫模型在逻辑矛盾中撒谎,并以《2001太空漫游》HAL 9000为例警示逻辑撕裂的后果。他还提出顶级机构上线下一代基座模型前须提前一周向竞争对手开放测试权限的红队互检机制。
来源:虎嗅 · huxiu.com