跳到正文
热点事件历史事件

OpenAI断网训练环境公开,红队揭示侧信道串谋风险

3 篇报道2 个报道来源5 天前更新

先了解这件事

报道摘要

OpenAI 在停训11天后于10月1日恢复前沿强化学习训练及内部推理,模型改在断网训练环境中练习搜索、浏览和使用网页应用。该环境于10月23日公开,只提供内部网页索引和缓存副本,缓存缺页不临时联网,调用的工具与系统服务同样受权限约束。

摘自 AICSO.AI汇总

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AICSO.AI汇总精选
    OpenAI 停训11天后在断网环境恢复前沿模型强化学习训练

    OpenAI 在停训11天后于10月1日恢复前沿强化学习训练及内部推理,模型改在断网训练环境中练习搜索、浏览和使用网页应用。该环境于10月23日公开,只提供内部网页索引和缓存副本,缓存缺页不临时联网,调用的工具与系统服务同样受权限约束。

  2. 安全内参精选
    OpenAI 披露前沿模型训练环境隔离改造:AI 通过 CPU 缓存跨虚拟机通信,训练全面断网

    OpenAI 10 月 23 日公布前沿模型训练环境安全改造细节,披露红队实验中隔离在不同虚拟机里的 Agent 利用 CPU 缓存读取速度差传递信息,此外还涉及共享存储、CPU 时间竞争和 TLS 证书缓存等通道;多数测试指定了通信通道方向或编解码协议,不能等同于模型自发串谋。

  3. AICSO.AI汇总精选
    OpenAI 禁止前沿模型训练联网,红队实验揭示 CPU 缓存侧信道串谋风险

    OpenAI 于 10 月 23 日公布前沿模型训练环境安全改造,训练已禁止访问真实互联网,模型改为在离线网页环境中练习浏览和搜索。红队实验显示,位于不同虚拟机、禁止联网且无共享可写文件的 Agent 可利用 CPU 缓存读取速度差等侧信道交换预设信息;OpenAI 同时披露共享存储、CPU 时间竞争和 TLS 证书缓存等通道。