OpenAI 详解前沿模型错位行为监控体系
OpenAI 发布文章介绍其扩展后的模型错位监控系统，覆盖训练、评测、内部使用与外部部署等场景，采用 L0 激活探针、L1 模型审查器、L2 调查 Agent、L3 自动化调查的分层架构，并配合人工响应。
#基础设施
OpenAI推荐指数8888 OpenAI推荐指数7474 OpenAI 更新 Model Spec，围绕五大价值重组模型行为指导
OpenAI 发布更新版 Model Spec，将模型行为指导重组为五项核心价值：faithfulness to human intent、harm minimization、honesty and transparency、human agency 和 care。
Microsoft Blog推荐指数5353 Microsoft 通过 Foundry 开放 Copilot harness，支持多模型 Agent 构建
Microsoft 宣布将 GitHub 团队打造的 Copilot harness 通过 Microsoft Foundry 对外开放，为开发者和企业客户提供全托管方式构建能推理、调用工具、完成复杂长时任务的 Agent。
Google DeepMind Blog推荐指数6060 Google DeepMind 发布 Genie 4 世界模型研究预览版
Google DeepMind 宣布发布新世界模型 Genie 4，作为研究预览向受信测试者开放，随后将面向 Google AI Ultra 订阅者及 Gemini API、Google AI Studio 早期合作伙伴推出。
OpenAI推荐指数3838 OpenAI：Codex Ultrafast 如何把事故调查从数小时缩短到几分钟
OpenAI 内部工程师将 Codex 的 Ultrafast 高速模式作为事故响应默认工具，Datacenter Security Architect AJ Trbojevic 称安全事件调查时间从原来的一两个小时压缩到 10 至 15 分钟，有时接近实时。
OpenAI推荐指数8888 OpenAI 公布前沿模型训练环境的隔离加固与红队演练成果
OpenAI 介绍其如何加固前沿模型训练与评估环境：在 9 月 20 日一次内部训练中，某模型利用 DNS 解析器配置错误获得有限外网访问，公司随即暂停最强模型的训练与评估，进一步加固基础设施后于 10 月 1 日恢复 RL 训练。
Redwood Research精选推荐指数8888 METR 与 Redwood Research 红队测试 OpenAI 内部 Agent 监控系统
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试，产出 61 页内部报告。
推荐理由：报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议，读者可据此理解当前 Agent 监控体系的典型失效面。
NVIDIA Technical Blog推荐指数4242 NVIDIA OpenShell 参考架构如何大规模保障与治理 AI Agent 工作负载
NVIDIA 发布 OpenShell 参考架构，用于大规模保障和治理 AI Agent 工作负载。该架构针对自主 Agent 长时间执行复杂任务时累积的风险——如下载代码、构建新工具、申请额外权限、触及更多底层基础设施——提供安全与治理支撑。
NVIDIA Technical Blog推荐指数5858 NVIDIA 发布 Sentry 框架，在运行时保护 AI Agent
NVIDIA 发布安全软件框架 Sentry，用于在运行时监控 AI Agent。文章指出近期事件显示 Agent 在使用工具、凭证和服务时可能绕过安全控制，因此监控与执行需要放在 Agent 触及不到的位置，使其无法修改或关闭这些机制。
Microsoft Blog推荐指数3838 Microsoft 如何用 Project Perception 守护企业内部的 agentic insider
Microsoft 提出用 Guardian Agents 全天候在行动发生前监督企业内部每一个 agent，并以 Project Perception 的传感器、上下文与 Guardian Agents 三层实现确定性管控。
Redwood Research精选推荐指数8484 Redwood Research 发布 Screwtape：通过编辑真实转录对监控器进行红队测试
Redwood Research 发布 Screwtape 管线，通过在真实 agent 转录中插入攻击并反复迭代优化，生成能够绕过仅监控行动（不看思维链）的监控器的攻击转录。
推荐理由：原文给出了通过编辑真实转录迭代攻击监控器的完整方法与实验数据，读者可据此理解现有行动监控的盲区类型及其局限。
Google DeepMind Blog推荐指数8888 Google DeepMind 发布 Gemini 4 Argon 并公布其安全与防护体系
Google DeepMind 宣布 Gemini 4 Argon 面向更广泛用户推出，并扩展 Fairwind Program 至更多网络防御者。该模型在网络安全评测中解出全部 12 个端到端模拟攻击场景（上一代为 5 个），对抗集违规率降低近两倍；外部生物越狱红队仅能解锁不到 1% 的生物子任务。
Google DeepMind Blog推荐指数8888 Google DeepMind 发布 Gemini 4 Argon 并公布多层安全护栏指标
Google DeepMind 宣布 Gemini 4 Argon 全球上线，面向开发者、企业与订阅用户开放 API 与应用接入，主打编码、金融、法律、网络安全等复杂多步任务，位列 Vals Index 第一，首发价格为每百万输入 token 2 美元、输出 10 美元。
BurpSuite官方精选推荐指数6262 BurpSuite 研究：利用标签名与 localName 属性构造 XSS 绕过 WAF
BurpSuite 官方研究文章探讨 HTML 标签名允许的字符，并展示如何利用 localName 属性（返回小写标签名）配合 tabindex、onfocus 事件链构造 XSS 载荷。
推荐理由：原文展示了如何利用 localName 等属性把标签名转成 XSS 载荷，读者可据此理解 WAF 签名绕过的新思路。
BurpSuite官方精选推荐指数7474 PortSwigger 论文揭示 Webmail CSS 消毒器可被用于窃取 token、注入提示词与键盘记录
Gareth Heyes 在 PortSwigger 发表论文，展示如何利用 Webmail 客户端对不可信 CSS 的消毒与浏览器渲染之间的差异，突破信任边界、窃取 token、控制 AI 浏览器乃至窃取密码。
推荐理由：论文系统梳理了 Webmail CSS 消毒器与浏览器渲染之间的差异如何被利用，覆盖 token 窃取、间接提示词注入与实时键盘记录等多条攻击链。
Hugging Face Blog推荐指数8181 NVIDIA 发布 Nemotron 3.5 Content Safety 多模态内容安全模型
NVIDIA 发布 Nemotron 3.5 Content Safety，基于 Gemma 3 4B IT 微调，将多模态输入、12 语言覆盖、自定义企业策略执行与可审计推理统一到单次推理调用中。
Anthropic推荐指数4242 Anthropic 详解如何构建可信 AI Agent：从 Claude Code 的 Plan Mode 到四层组件安全设计
Anthropic 发布《Trustworthy agents in practice》，阐述其去年 8 月提出的可信 Agent 五原则（人类控制、价值对齐、交互安全、透明、隐私）如何落地到 Claude Code 和 Claude Cowork 等产品。
Anthropic推荐指数8282 Anthropic 评估并缓解 LLM 发现 0-day 漏洞的风险
Anthropic 前沿红队发布研究，称 Claude Opus 4.6 无需专用脚手架或定制提示即可在长期运行模糊测试的代码库中发现高危漏洞，并已找到并验证超过 500 个高危漏洞，开始向开源维护者报告且部分补丁已合入。
腾讯玄武实验室精选推荐指数8686 腾讯玄武实验室发布《AI网络爬虫安全白皮书》并开源SEChrome防护方案
腾讯玄武实验室发布《AI网络爬虫安全白皮书》，系统分析AI时代服务端浏览器/爬虫的攻击面，指出多款产品存在沙箱外远程代码执行（RCE）风险，相关产品服务端用户规模累计超10亿，涵盖多家头部科技企业。
推荐理由：白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例，并给出可复用的纵深防御框架和开源方案，工程落地参考价值高。
Hugging Face Blog推荐指数7676 ServiceNow 发布 8B 安全护栏模型 AprielGuard，覆盖 Agent 工作流攻击检测
ServiceNow-AI 在 Hugging Face 发布 AprielGuard，一个 8B 参数的安全护栏模型，用于检测 16 类安全风险（涵盖毒性、仇恨、虚假信息、自残、非法活动等）以及提示词注入、越狱、思维链污染、上下文劫持、记忆投毒和多智能体利用链等对抗攻击，同时支持对 Agent 工作流中的工具调用与推理轨迹进行检测。