面向 ASI 对齐的智能体理论应具备哪些要件

针对 ASI 对齐所需的智能体理论，作者提出一组非形式化概念要件，并举例说明现有理论未能满足这些要件。文中将智能体定义为在多种环境中有效引导环境朝向特定偏好的输入输出系统，需构建环境模型、制定长期计划并持续更新，同时兼顾统计效率与计算效率。作者指出人类、未对齐 ASI 与对齐 ASI（如 GDS）是主要智能体案例，岩石、细菌和恒温器不属此类，动物与当代 AI 则属边缘情形。