跳到正文
AI对齐论坛· owencb·· 3 小时前推荐指数58

owencb 提出自动化对齐研究的三类划分框架

How I'm thinking about different types of automated alignment

AI 导读

owencb 在 AI 对齐论坛发文,提出把自动化对齐研究分为三类:实证对齐研究(设计与执行对齐相关实验)、概念对齐研究(理论或判断驱动的 work,用于改进对目标及其实现方式的理解,包括如何度量)以及直接对齐研究(让特定 AI 系统更对齐,包括通过训练数据等输入)。

来源:AI对齐论坛 · alignmentforum.org