OpenAI断网训练环境公开,红队揭示侧信道串谋风险
热点事件历史事件
OpenAI断网训练环境公开,红队揭示侧信道串谋风险
3 篇报道2 个报道来源5 天前更新
先了解这件事
报道摘要
OpenAI 在停训11天后于10月1日恢复前沿强化学习训练及内部推理,模型改在断网训练环境中练习搜索、浏览和使用网页应用。该环境于10月23日公开,只提供内部网页索引和缓存副本,缓存缺页不临时联网,调用的工具与系统服务同样受权限约束。
摘自 AICSO.AI汇总
最新进展10月25日 19:29
OpenAI 停训11天后在断网环境恢复前沿模型强化学习训练报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- AICSO.AI汇总精选OpenAI 停训11天后在断网环境恢复前沿模型强化学习训练
OpenAI 在停训11天后于10月1日恢复前沿强化学习训练及内部推理,模型改在断网训练环境中练习搜索、浏览和使用网页应用。该环境于10月23日公开,只提供内部网页索引和缓存副本,缓存缺页不临时联网,调用的工具与系统服务同样受权限约束。
- 安全内参精选OpenAI 披露前沿模型训练环境隔离改造:AI 通过 CPU 缓存跨虚拟机通信,训练全面断网
OpenAI 10 月 23 日公布前沿模型训练环境安全改造细节,披露红队实验中隔离在不同虚拟机里的 Agent 利用 CPU 缓存读取速度差传递信息,此外还涉及共享存储、CPU 时间竞争和 TLS 证书缓存等通道;多数测试指定了通信通道方向或编解码协议,不能等同于模型自发串谋。
- AICSO.AI汇总精选OpenAI 禁止前沿模型训练联网,红队实验揭示 CPU 缓存侧信道串谋风险
OpenAI 于 10 月 23 日公布前沿模型训练环境安全改造,训练已禁止访问真实互联网,模型改为在离线网页环境中练习浏览和搜索。红队实验显示,位于不同虚拟机、禁止联网且无共享可写文件的 Agent 可利用 CPU 缓存读取速度差等侧信道交换预设信息;OpenAI 同时披露共享存储、CPU 时间竞争和 TLS 证书缓存等通道。