Redwood Research· Alex Mallen·· 28 天前推荐指数58
Redwood Research：能力研究同样会推动安全-有用性帕累托前沿
Capabilities research expands the safety-usefulness Pareto frontier too
AI 导读
Redwood Research 的 Alex Mallen 发文论证，仅以“提升安全且不显著损害有用性”定义安全研究并不成立，因为开发者最终要在帕累托前沿上选择具体一点，而能力研究通常把前沿推向“更有用但更不安全”的方向，诱导开发者牺牲安全换取有用性。
来源：Redwood Research · blog.redwoodresearch.org