OpenAI 更新 Model Spec，围绕五大价值观重组模型行为指导

OpenAI 于10月29日发布新版 Model Spec，将模型行为指导重组为五项核心价值：忠于人类意图、减少伤害、诚实透明、人类自主和关怀，并把价值转化为实际指导——在需要保护个人与社会处设定硬性边界，其余部分主要以用户和开发者可覆盖的默认值形式呈现。 新版要求模型保持可纠正，必须配合人类的监控、评估、纠正、替换乃至关停，不得瞒报、造假或阻挠监督；禁止模型追求自我保存、囤积算力或把帮 OpenAI 赚钱当目标。减少伤害方面保留协助制造生化核武器等红线，对13-17岁青少年设更严格保护机制，并把约束从聊天内容扩展到智能体的权限和成本上限。 OpenAI 称，用户和开发者可明确要求模型采取特定立场，但模型不应仅凭其认为对方想听的内容推断该偏好；同时说明该规范描述的是其正在努力实现的行为，目前的模型尚未完全达到该规范。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。