学者提出 ASI 对齐智能体理论的要件

有作者在 AI 对齐论坛提出，面向 ASI 对齐的智能体理论应满足一组非形式化概念要件，并称现有理论未能满足这些要件。 该文把智能体定义为在多种环境中有效引导环境朝向特定偏好的输入输出系统，认为这类系统需构建环境模型、制定长期计划并持续更新，同时兼顾统计效率与计算效率。作者将人类、未对齐 ASI 与对齐 ASI（如 GDS）列为主要智能体案例，认为岩石、细菌和恒温器不属于此类，动物与当代 AI 则属边缘情形。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。