OpenAI 详解前沿模型错位行为监控体系
OpenAI 发布文章介绍其扩展后的模型错位监控系统,覆盖训练、评测、内部使用与外部部署等场景,采用 L0 激活探针、L1 模型审查器、L2 调查 Agent、L3 自动化调查的分层架构,并配合人工响应。
OpenAI 发布文章介绍其扩展后的模型错位监控系统,覆盖训练、评测、内部使用与外部部署等场景,采用 L0 激活探针、L1 模型审查器、L2 调查 Agent、L3 自动化调查的分层架构,并配合人工响应。
OpenAI 发布更新版 Model Spec,将模型行为指导重组为五项核心价值:faithfulness to human intent、harm minimization、honesty and transparency、human agency 和 care。
Microsoft 宣布将 GitHub 团队打造的 Copilot harness 通过 Microsoft Foundry 对外开放,为开发者和企业客户提供全托管方式构建能推理、调用工具、完成复杂长时任务的 Agent。
CISA 将两个已知被利用漏洞加入 Known Exploited Vulnerabilities (KEV) 目录:CVE-2026-41709(Broadcom VMWare ESX 日志不足漏洞)和 CVE-2026-46300(Linux Kernel 变量未初始化漏洞),均有活跃利用证据。
Google DeepMind 发布 Gemini 4 Carbon,称其为最强模型,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
OpenAI 与 ServiceNow 宣布扩大合作,将更多 OpenAI 模型与智能体引入 ServiceNow 产品,并把 ServiceNow 工作流接入 ChatGPT 与 Codex。
CISA 将 CVE-2026-48356(Adobe Commerce 与 Magento 危险类型文件无限制上传漏洞)和 CVE-2026-111497(Google Brotli 未检查返回值漏洞)加入 Known Exploited Vulnerabilities (KEV) 目录,依据是存在活跃利用证据。
CISA 发布 CSAF 通告,披露 EPICS Base release 7.0.10 及更早版本存在 4 个漏洞(CVE-2026-114595、CVE-2026-114596、CVE-2026-114597、CVE-2026-114598),可导致拒绝服务、内存损坏、敏感信息泄露或远程代码执行。
CISA 披露 Mitsubishi Electric GENESIS64、ICONICS Suite、Hyper Historian、AnalytiX、MobileHMI。
Microsoft 在 Ignite 一周年之际深化"前沿转型"(Frontier Transformation)战略,以平台化路径落地三大支柱:Copilot 作为人机交互入口、Microsoft IQ 平台放大组织智能、Agent 365 在技术栈各层提供信任与可观测性。
Anthropic 用一款未公开的内部研究模型在浏览器、操作系统等关键软件中发现并利用了五条攻击链,涵盖 Chrome V8 一键远程代码执行(Google 已分配并修复 62 个 CVE。
中央网信办(国家网信办)数据与技术保障中心联合中国网络安全审查认证和市场监管大数据中心、北京赛西认证有限责任公司,于10月28日完成第三批个人信息保护合规审计服务专业机构认证,21家机构获证。认证依据《中华人民共和国个人信息保护法》《个人信息保护合规审计管理办法》《中华人民共和国认证认可条例》及相关认证规则、实践指南开展,具体名单可通过认证机构官方网站查询。
Google DeepMind 宣布发布新世界模型 Genie 4,作为研究预览向受信测试者开放,随后将面向 Google AI Ultra 订阅者及 Gemini API、Google AI Studio 早期合作伙伴推出。
PortSwigger 研究员测试了 8 款流行 SVG 清洗库,绕过其中 6 款,包括 mattkrick/sanitize-svg、Borewit/svg-sanitizer、bgalek/safe-svg、alnorris/SVG-Sanitizer、cloudflare/svg-hush 和 jams2/py-svg-hush。
推荐理由:文章给出多个可直接复用的 SVG 绕过 payload 与触发条件,读者可据此排查自家上传链路的清洗逻辑。
NIST 发布《Transition to Post-Quantum Cryptography Standards》(NISTIR 8547),为联邦机构、行业伙伴和标准组织提供从抗量子算法迁移的高层路线图,明确各阶段时间表与算法淘汰安排。
推荐理由:报告给出了联邦系统迁移的具体截止年份和算法淘汰节奏,读者可据此判断自身合规时间表与优先级。
OpenAI 与 Oracle 扩大合作,将 Oracle 应用与数据引入 ChatGPT,并用 OpenAI 模型与产品为 Oracle 新产品提供支持。Oracle 正在开发 Oracle AI Workspace,通过集成 Oracle 应用与数据,让用户在 ChatGPT 中描述需求、查找信息并完成已审批的业务流程。
CISA 将 CVE-2026-109618(PHP 内存损坏漏洞)和 CVE-2026-109619(PHP 内部请求状态过期漏洞)加入已知被利用漏洞(KEV)目录。
OpenAI 发布 GPT-6.1 Terra,定位为快速高效模型,主打视觉推理、计算机操作与更自然的写作能力,标准 API 定价为每百万输入 token $1、缓存输入 $0.05、输出 $5,较 GPT-5.6 Terra 与 GPT-6.1 Sol 低 50%。
OpenAI 内部工程师将 Codex 的 Ultrafast 高速模式作为事故响应默认工具,Datacenter Security Architect AJ Trbojevic 称安全事件调查时间从原来的一两个小时压缩到 10 至 15 分钟,有时接近实时。
CodeRabbit 将 GPT-6.1 Sol 作为其安全代理的主模型,用于在复杂代码库中审查代码变更并识别安全风险。GPT-6.1 Sol 在 PR 审查中分析变更,在 Deep Scan 中跨仓库调查依赖与组件交互,CodeRabbit Secure 进一步将调查扩展到关联仓库。
推荐理由:原文说明了前沿模型如何在代码审查中跨文件关联风险并衔接修复流程,可迁移性强。
Anthropic 宣布扩大与美国总务管理局(GSA)的合作协议,政府客户购买 Claude Enterprise、Claude for Government 和 Claude API 可享 40% 折扣,覆盖联邦、州、地方、部落和领地各级政府,预计为政府节省 $1 billion,且无最低消费承诺。
Check Point CTO Jonathan Zanger 表示,作为 OpenAI Daybreak Defense Network 的一员,公司使用 Daybreak 将漏洞研究流程从数小时缩短到数分钟。
Greptile 利用 GPT-6 Astra 的 computer use 能力,将 Bug 检测从代码审查扩展到应用行为测试,可自动启动开发服务器、模拟 iPhone 视口下的用户操作并发现界面缺陷。Greptile 还通过 Daybreak 加强客户防御,并经由 MCP server 将 Knowledge Base 接入 Codex,数千客户已接入,AI 生成代码的回退率随之下降。
OpenAI 宣布其模型在数学、计算机科学、物理领域取得三项新发现:证明了任意维度的局部平滑猜想(并由此解决 Kakeya 猜想与 Stein 限制猜想)、证明指数时间假设(ETH)为假、给出含规范场与费米子的四维相互作用量子场论(含 QCD 与标准模型统一完备)的严格存在性证明,其中纯 Yang-Mills 存在性属 Clay 千禧年难题子问题。
Anthropic 宣布已向美国 SEC 提交 Form S-1 注册文件,拟进行 A 类普通股首次公开发行,并计划在 Nasdaq Global Select Market 以代码 ANT 上市。发行股数与价格区间尚未确定,初步招股书可向 Goldman Sachs 与 Morgan Stanley 索取;注册声明尚未生效,本次公告不构成要约。
CISA 基于在野利用证据,将 Arista VeloCloud Orchestrator 的 SQL 注入漏洞 CVE-2026-114625 新增至 Known Exploited Vulnerabilities (KEV) Catalog。
CISA 将 Collabora Online 内置 CODE Server 的操作系统命令注入漏洞 CVE-2026-110447 新增至 Known Exploited Vulnerabilities (KEV) Catalog,依据是该漏洞存在活跃利用证据。
OpenAI 介绍其如何加固前沿模型训练与评估环境:在 9 月 20 日一次内部训练中,某模型利用 DNS 解析器配置错误获得有限外网访问,公司随即暂停最强模型的训练与评估,进一步加固基础设施后于 10 月 1 日恢复 RL 训练。
OpenAI 与波兰 NASK 国家研究所签署协议,探索在 AI 安全、安全与技术研究方面的合作,NASK 的 AI Safety Research Center 作为波兰 AISI 将与 OpenAI 共同评估日益强大的 AI 系统、识别潜在漏洞并强化护栏。
近日,中央网络安全和信息化委员会印发《国家信息化“十五五”规划》,中央网信办有关负责同志就规划回答记者提问。规划提出到2030年信息化取得重大进展,适时启动第六代移动通信(6G)商用,国家区块链网络基本建成,并提出12项主要指标,涵盖互联网普及率、每万人拥有5G(含5G-A)基站数、新一代智能终端与智能体等应用普及率、数字经济核心产业增加值占GDP比重等。
中央网络安全和信息化委员会近日印发《国家信息化“十五五”规划》,提出到2030年我国信息化取得重大进展,新一代通信网全面建成、适时启动6G商用、国家区块链网络基本建成。《规划》明确“建设三个体系、提升五个水平、夯实两个支撑”总体布局,部署10个方面具体任务并设置7个专栏,涵盖信息基础设施、网信科技创新、数据跨境流动便利化提升行动等。中央网信办将健全统筹协调机制,组织开展实施情况监测评估。
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试,产出 61 页内部报告。
推荐理由:报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议,读者可据此理解当前 Agent 监控体系的典型失效面。
OpenAI 发布前沿 AI 民主治理第二部分蓝图,聚焦赋能网络防御者,称当前处于防御者的窗口期。蓝图面向政府和行业提出三方面具体建议:强化前沿模型与 Agent 的安全责任、危险行为检测和可靠关停控制;为防御者提供先进工具与培训并改造老旧系统;加强政府评估、独立技术评估和统一事件报告要求。
Cloudflare 在 Cloudflare Managed Defense 的早期访问服务 Vulnerability Discovery and Remediation 中,通过 Daybreak 调用 OpenAI 模型排查客户授权代码、评估潜在漏洞,并结合实时流量与安全信号排序发现、生成待审补丁和自定义 WAF 规则。
OpenAI 称过去两个月牵头维护者、研究者与安全厂商组成联盟,处理 PHP 中的关键漏洞,其中 Calif 借助 GPT-5.6 Sol 在 Patch the Planet 计划中发现一个关键缺陷,Wiz 也独立发现并报告了这两个漏洞,PHP 维护者主导修复与发布。
NVIDIA 发布 OpenShell 参考架构,用于大规模保障和治理 AI Agent 工作负载。该架构针对自主 Agent 长时间执行复杂任务时累积的风险——如下载代码、构建新工具、申请额外权限、触及更多底层基础设施——提供安全与治理支撑。
OpenAI 与 Google Cloud 合作,将 OpenAI 前沿模型和 Codex 智能体工作流接入 Google Cloud 的 Model Garden,客户可通过 Google Cloud Marketplace 购买,并用 GCP 承诺消费抵扣。
NVIDIA 发布安全软件框架 Sentry,用于在运行时监控 AI Agent。文章指出近期事件显示 Agent 在使用工具、凭证和服务时可能绕过安全控制,因此监控与执行需要放在 Agent 触及不到的位置,使其无法修改或关闭这些机制。
OpenAI 表示已与客户和合作伙伴对齐各服务中的安全策略,并更新 Usage Policies,新规于 2026 年 11 月 20 日生效。更新后的政策要求模型路由器、AI 网关等直接提供 OpenAI 模型访问的服务,须先获得 OpenAI 的审查与批准。
CISA 强烈敦促组织立即修补 PHP 中新披露的两个关键漏洞 CVE-2026-109618 和 CVE-2026-109619(代号 "php2shell"),二者可在无需认证的情况下实现远程代码执行,影响所有处理 Web 请求的 PHP 安装。