对齐问题：计算机科学与分析哲学的交汇
文章阐述了技术性 AI 对齐问题的核心难点，视角融合了理论计算机科学/机器学习理论、分析哲学传统以及 Machine Intelligence Research Institute / LessWrong 的观点。
#C07 AI治理体系建设
AI对齐论坛推荐指数4141
AI对齐论坛推荐指数2828 计算智能体理论与 ASI 对齐系列前言
作者预告「计算智能体理论与 ASI 对齐」系列，主张 ASI 对人类构成严重生存风险，需以数学理论构建智能体以实现安全对齐。作者 2018 年提出学习论 AI 对齐研究纲领（LTA），2023 年概述对齐协议 Computational Superimitation，并创立 CORAL 实验室；今年在组合学习理论（compositional learning theory）上取得突破。