OpenAI·· 12 小时前精选推荐指数67
OpenAI 推出 Control Room，统一追踪并中止研究基础设施中的模型负载
Control Room: A central system to track and stop model workloads across our research infrastructure
AI 导读
OpenAI 构建并已在研究基础设施部署 Control Room，用于集中追踪模型负载并在出现安全或安保问题时快速停止模型输出。该系统与失准监控系统联动，从决定干预到停止模型输出最长 35 秒，延迟来自推理授权缓存层，OpenAI 正推动将其降至零。
推荐理由
OpenAI 公开了研究基础设施中统一追踪并中止模型推理负载的 Control Room，读者可据此了解前沿模型训练侧的运行时熔断设计。
来源：OpenAI · openai.com