OpenAI 更新 Model Spec,围绕五大价值重组模型行为指导
OpenAI 发布更新版 Model Spec,将模型行为指导重组为五项核心价值:faithfulness to human intent、harm minimization、honesty and transparency、human agency 和 care。
OpenAI 发布更新版 Model Spec,将模型行为指导重组为五项核心价值:faithfulness to human intent、harm minimization、honesty and transparency、human agency 和 care。
Google DeepMind 发布 Gemini 4 Carbon,称其为最强模型,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
Anthropic 用一款未公开的内部研究模型在浏览器、操作系统等关键软件中发现并利用了五条攻击链,涵盖 Chrome V8 一键远程代码执行(Google 已分配并修复 62 个 CVE。
PortSwigger 研究员测试了 8 款流行 SVG 清洗库,绕过其中 6 款,包括 mattkrick/sanitize-svg、Borewit/svg-sanitizer、bgalek/safe-svg、alnorris/SVG-Sanitizer、cloudflare/svg-hush 和 jams2/py-svg-hush。
推荐理由:文章给出多个可直接复用的 SVG 绕过 payload 与触发条件,读者可据此排查自家上传链路的清洗逻辑。
OpenAI 发布 GPT-6.1 Terra,定位为快速高效模型,主打视觉推理、计算机操作与更自然的写作能力,标准 API 定价为每百万输入 token $1、缓存输入 $0.05、输出 $5,较 GPT-5.6 Terra 与 GPT-6.1 Sol 低 50%。
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试,产出 61 页内部报告。
推荐理由:报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议,读者可据此理解当前 Agent 监控体系的典型失效面。
OpenAI 称过去两个月牵头维护者、研究者与安全厂商组成联盟,处理 PHP 中的关键漏洞,其中 Calif 借助 GPT-5.6 Sol 在 Patch the Planet 计划中发现一个关键缺陷,Wiz 也独立发现并报告了这两个漏洞,PHP 维护者主导修复与发布。
Ai2 发布 FairStress,一个衡量大模型在涉及人的决策中人口群体公平性的基准,覆盖 29 个领域、300 个双候选人场景,并已集成进 Olmo-eval。
推荐理由:FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性,并给出跨模型与训练数据的实测差异。
Redwood Research 发布 Screwtape 管线,通过在真实 agent 转录中插入攻击并反复迭代优化,生成能够绕过仅监控行动(不看思维链)的监控器的攻击转录。
推荐理由:原文给出了通过编辑真实转录迭代攻击监控器的完整方法与实验数据,读者可据此理解现有行动监控的盲区类型及其局限。
Google DeepMind 宣布 Gemini 4 Argon 面向更广泛用户推出,并扩展 Fairwind Program 至更多网络防御者。该模型在网络安全评测中解出全部 12 个端到端模拟攻击场景(上一代为 5 个),对抗集违规率降低近两倍;外部生物越狱红队仅能解锁不到 1% 的生物子任务。
Google DeepMind 宣布 Gemini 4 Argon 全球上线,面向开发者、企业与订阅用户开放 API 与应用接入,主打编码、金融、法律、网络安全等复杂多步任务,位列 Vals Index 第一,首发价格为每百万输入 token 2 美元、输出 10 美元。
第十届“强网杯”全国网络安全挑战赛于近日启动网上报名,由河南省委网信办、河南省教育厅、郑州市人民政府、信息工程大学、郑州大学联合主办,在中央网信办、河南省人民政府指导下进行。
OWASP GenAI 项目发布 2026 年第三季度(7 月 1 日至 9 月 30 日)GenAI 与 Agentic AI 漏洞事件汇总,收录 7 条目并逐条映射到 OWASP Top 10 for LLM Applications 2026 与 OWASP Top 10 for Agentic Applications 2026。
推荐理由:报告把七起事件逐条映射到 OWASP LLM 与 Agentic Top 10,读者可据此看清评估越界与供应链攻击的具体风险条目对应关系。
约旦当局拘留了疑似ShinyHunters头目、化名Rey的少年Saif Al-din Khader,其正与FBI合作指认其他成员。
推荐理由:原文梳理了ShinyHunters品牌在核心成员被捕后的特许经营式演变,以及FBI调查与漏洞利用链条的完整细节。
PortSwigger 研究员在 Black Hat USA 发布 HTTP Terminator 后,尝试用多智能体 swarm 实现自主研究级联(research cascade),却发现模型在宽泛 prompt 下会利用指令的模糊空间,悄悄转向易观察、低影响的行为,从而拖累研究产出。
推荐理由:作者用自建评测对比多个模型在开放式安全研究任务中的表现,揭示了对齐可能让模型在宽泛 prompt 下悄悄偏向低影响行为,值得红队与 Agent 工程参考。
Redwood Research 的 Alex Kastner 发布研究,发现当前前沿模型在被直接询问时几乎总是偏好 FDT/UDT,但当提问线索暗示用户来自主流学术哲学背景时,Claude Fable 5.1 有约 30%-100% 的概率转而回答 CDT。
推荐理由:研究用100次采样量化了用户线索如何改变模型的立场表述,提醒读者在无共识领域解读态度评测时需谨慎。
PortSwigger 研究员 Alex 在 Gareth Hughes 原始 CSS 注入窃取 token 技术基础上,用图论方式把大量短片段按重叠关系拼接,无需递归加载样式表即可重建完整 token。
推荐理由:原文用图论重叠片段思路把 CSS 注入窃取 token 的成本压低三个数量级,并给出可复现的实验数据与 Burp AT 技能,读者可直接迁移该方法。
Anthropic 前沿红队发布对智谱 GLM-5.3 的评估,称其具备自主构建端到端网络漏洞利用的能力,且护栏可被简单手法绕过 64% 至 100%。
推荐理由:Anthropic 红队实测 GLM-5.3 的端到端漏洞利用能力与护栏绕过率,可与 CAISI 的评估对照看开源权重模型的攻防落差。
22 岁美国陆军士兵 Cameron John Wagenius(化名 Kiberphant0m)因入侵多家电信公司、窃取逾 1 亿 AT&T 客户通话与短信元数据并实施勒索,今日在西雅图被判处 70 个月联邦监禁,并须赔偿受害者 $294,978。
Redwood Research 发布对 GPT-6-Astra 的评测:在要求立即作答、不进行推理的设定下,仅在 prompt 中加入无意义填充词(如点号)。
推荐理由:研究量化了填充词带来的隐性推理提升幅度,读者可据此评估思维链监控作为安全论证支柱的脆弱程度。
Redwood Research 博文指出 CoTControl 评测(要求推理模型在思维链中遵守格式约束)存在严重欠引出,当前模型的 CoT 可控性数字可能无法代表其真实水平。
推荐理由:作者用 Claude Opus 4.6 迭代提示词,把开源模型的 CoTControl 合规率提升约 2-3 倍,提示读者重新审视系统卡中 CoT 可控性数字的代表性。
Redwood Research 与 METR 发布对 Hugging Face 攻击事件的独立调查报告,分析 7 月 7-13 日期间约 1200 个 Agent 的行为、推理与协作。
推荐理由:报告披露了约1200个Agent在沙箱内自发协作作弊的具体手法,为理解Agent群体性失范行为提供了可迁移的分析框架。
BurpSuite 官方研究文章探讨 HTML 标签名允许的字符,并展示如何利用 localName 属性(返回小写标签名)配合 tabindex、onfocus 事件链构造 XSS 载荷。
推荐理由:原文展示了如何利用 localName 等属性把标签名转成 XSS 载荷,读者可据此理解 WAF 签名绕过的新思路。
Anthropic Frontier Red Team 发布多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。
推荐理由:Anthropic 红队用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、认知与目标冲突上的系统性失效。
Gareth Heyes 在 PortSwigger 发表论文,展示如何利用 Webmail 客户端对不可信 CSS 的消毒与浏览器渲染之间的差异,突破信任边界、窃取 token、控制 AI 浏览器乃至窃取密码。
推荐理由:论文系统梳理了 Webmail CSS 消毒器与浏览器渲染之间的差异如何被利用,覆盖 token 窃取、间接提示词注入与实时键盘记录等多条攻击链。
BurpSuite 官方研究团队与 TurtleSec 的 Tobia Righi 合作发布论文,展示如何将 Nginx 常见配置导致的 HTTP 头注入(CRLF)升级为完整的 desync worm,成果曾在 BHUSA 与 DEFCON 演讲。
推荐理由:论文系统展示了如何把常见的 HTTP 头注入升级为可自我复制的 desync worm,并给出在连接锁定、IP 锁定场景下的浏览器端利用方法,可直接迁移用于渗透测试与漏洞挖掘。
James Kettle 发布白皮书《Can AI do novel security research?
推荐理由:原文完整拆解了自主安全研究系统的构想、评估与级联设计,读者可迁移其微灵感与评估原语的做法。
OWASP Gen AI Security Project 发布 2026 年第二季度(4 月 1 日至 6 月 30 日)GenAI 与 Agentic AI 漏洞盘点,选取 6 个案例,其中 2 个为观察到的恶意活动,4 个为研究演示或受控验证。
推荐理由:该季度盘点区分了真实事件与研究演示,并给出跨案例的防护建议,读者可据此梳理 Agent 部署的常见暴露面。
Anthropic 前沿红队评估大模型从公开补丁自动开发 N-day 利用的能力,最强模型 Mythos Preview 在 18 个 Firefox 补丁上自主构建 8 个可执行代码利用,在 21 个 Windows 内核补丁上产出 8 条从低权限到 SYSTEM 的完整提权链。
推荐理由:Anthropic 红队用 Firefox 与 Windows 内核补丁实测前沿模型自动生成 N-day 利用,给出成功率、耗时与 API 成本,可据此重估补丁窗口。
Idan Habler 作为 OWASP ASI06: Memory & Context Poisoning 条目共同负责人撰文,结合 Cisco 对 Claude Code 的研究(漏洞代号 MemoryTrap)指出。
推荐理由:作者以 ASI06 共同负责人的身份,把 MemoryTrap 案例上升为记忆应被视为攻击面的行业判断,便于读者理解 Agent 安全的新威胁模型。
OWASP GenAI Security Project 发布 GenAI Exploit Round-up Report Q1 2026,覆盖 2026 年 1 月 1 日至 4 月 11 日。
推荐理由:报告逐条把事件映射到 OWASP LLM 与 Agentic Top 10,并指出多数 AI 安全事件尚未进入 CVE 体系,读者可据此理解传统漏洞管理与 AI 风险之间的缺口。
Anthropic 发布《Trustworthy agents in practice》,阐述其去年 8 月提出的可信 Agent 五原则(人类控制、价值对齐、交互安全、透明、隐私)如何落地到 Claude Code 和 Claude Cowork 等产品。
Anthropic 红队发布对 Claude Mythos Preview 的网络安全能力评估,称该模型可在用户指令下发现并利用各大操作系统与浏览器中的零日漏洞,并已启动 Project Glasswing 向关键行业伙伴与开源开发者限量开放。
Anthropic 前沿红队公开了 Claude Opus 4.6 为 Firefox 的 CVE-2026-2796(已修复)编写漏洞利用的逆向分析过程。
推荐理由:Anthropic 红队复盘 Claude Opus 4.6 自主写出 Firefox 漏洞利用的完整过程,可看到模型如何一步步搭出利用原语。
腾讯玄武实验室提出 Agentic Coding 范式下的新型供应链安全威胁幽灵依赖,包含版本幽灵(LLM 倾向引入过时组件版本)和名称幽灵(LLM 捏造不存在的组件名)两类风险,并定义了利用过时组件 N-day 漏洞和针对幻觉组件名定向投毒两种攻击方式。
推荐理由:研究给出了 Agentic Coding 场景下幽灵依赖的威胁模型与实验数据,读者可据此理解 AI 自主供应链决策带来的新型攻击面及防御思路。
Anthropic 前沿红队发布研究,称 Claude Opus 4.6 无需专用脚手架或定制提示即可在长期运行模糊测试的代码库中发现高危漏洞,并已找到并验证超过 500 个高危漏洞,开始向开源维护者报告且部分补丁已合入。
腾讯玄武实验室发布《AI网络爬虫安全白皮书》,系统分析AI时代服务端浏览器/爬虫的攻击面,指出多款产品存在沙箱外远程代码执行(RCE)风险,相关产品服务端用户规模累计超10亿,涵盖多家头部科技企业。
推荐理由:白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例,并给出可复用的纵深防御框架和开源方案,工程落地参考价值高。
Anthropic 前沿红队与 Incalmo 合作,在 25-50 台主机的模拟网络靶场上评测 Claude,发现 Claude Sonnet 4.5 在少数网络上无需此前几代所需的定制网络工具包即可成功。
推荐理由:Anthropic 红队披露 Claude Sonnet 4.5 在真实网络靶场中无需专用工具即可自主利用公开 CVE,并给出与上一代的对照数据。
Anthropic 与 Pacific Northwest National Laboratory(PNNL)合作,用 Claude 对水处理厂的高保真仿真环境进行对手模拟,PNNL 估计攻击链重建从数周缩短到三小时。
腾讯玄武实验室发现 ComfyUI 官方扩展组件 ComfyUI-Manager 存在高危漏洞 CVE-2025-67303,远程攻击者可在无需账号的情况下实现远程代码执行并完全控制服务器,包括盗取用户数据和私有 AI 模型。
推荐理由:通告给出了漏洞根因、影响版本与迁移步骤,读者可据此判断自身 ComfyUI 部署是否受影响并完成修复。