跳到正文
OpenAI·· 1 天前推荐指数88

OpenAI 详解前沿模型错位行为监控体系

How we detect frontier model misalignment

AI 导读

OpenAI 发布文章介绍其扩展后的模型错位监控系统,覆盖训练、评测、内部使用与外部部署等场景,采用 L0 激活探针、L1 模型审查器、L2 调查 Agent、L3 自动化调查的分层架构,并配合人工响应。

来源:OpenAI · openai.com