安全官周刊 · 2026 年第 36 周 · 08.31 — 09.06
本周 MCP 工具投毒漏洞被披露,多家客户端已修复,同时多轮对话越狱框架公开,主流护栏被绕过。安全产品侧,安全运营助手新增告警自动分诊,威胁情报平台把大模型用于 CVE 研判。评测与行业侧,AI 安全评分体系更新基准,新增多轮对抗与工具滥用维度,厂商与创业公司也在岗位和融资上加大投入。
红队攻防
多轮对话越狱框架公开,绕过主流护栏
研究团队发布一套级联式多轮对话攻击框架,在多个商用模型上复现越狱,并公开了 PoC 与评测脚本。
合规治理
算法备案自动检查工具发布
一款面向备案材料合规性的自动检查工具发布,可校验评估报告完整性与字段一致性。
安全产品
本版导读安全运营助手与威胁情报平台都在把大模型嵌入告警研判和漏洞关联,向自动化处置建议演进。
Security Copilot 新增自动化告警分诊
安全运营助手上线告警自动分诊能力,可结合上下文对 SOC 告警做初步研判与优先级排序。
AI 驱动的威胁情报平台整合 CVE 研判
该平台将大模型用于漏洞描述与在野利用信号的关联,自动生成可执行的缓解建议。
AI 驱动的威胁情报平台整合 CVE 研判
该平台将大模型用于漏洞描述与在野利用信号的关联,自动生成可执行的缓解建议。
生态标准
行业联盟发布 Agent 安全参考架构
标准组织联合多家厂商发布面向自主 Agent 的安全参考架构,界定身份、权限与审计基线。
白皮书梳理大模型供应链风险
研究报告从模型、数据、依赖与部署四个环节梳理供应链风险,并给出可落地的检查清单。
安全研究
本版导读安全数据集、面向幻觉控制的对齐方法以及安全垂域开源模型与评测集相继释出,研究供给更完整。
安全数据集与标注体系上线
一套面向安全场景的结构化数据集上线,提供攻击样本、事件日志与专家标注。
面向幻觉控制的对齐方法提出
论文提出一种结合检索证据的对齐方法,试图在生成阶段抑制与事实不符的内容。
安全垂域大模型开源并发布评测集
研究团队开源了面向安全任务的大模型,并同步释出配套评测集,覆盖漏洞分析与事件研判。
评测基准
本版导读评测流水线开源,评分体系新增多轮对抗与工具滥用维度,多家厂商模型基线结果同台对比。
自动化评测流水线开源
一套可复现的安全评测流水线开源,支持批量跑分、结果比对与基线回归检测。
AI 安全评分体系发布新基准版本
评测机构更新了 AI 安全评分体系,新增多轮对抗与工具滥用两类测试维度。
行业安全基线评测结果公布
多家厂商模型在同一安全评测集上的基线结果公布,横向对比了越狱抵抗与拒绝率。
AI 安全评分体系发布新基准版本
评测机构更新了 AI 安全评分体系,新增多轮对抗与工具滥用两类测试维度。
战略与行业
本版导读厂商新设 AI 安全负责人岗位,创业公司完成融资,企业公开意识提升计划,投入回报报告出炉。
厂商设立 AI 安全首席岗位
一家厂商宣布新设 AI 安全负责人岗位,统筹模型上线前的安全评估与应急响应。
AI 安全创业公司完成新一轮融资
一家专注大模型安全评估的创业公司完成融资,计划扩展评测与合规自动化产品线。
安全团队公开全员意识提升计划
企业分享其 AI 安全文化建设做法,覆盖培训、演练与跨部门协同的评估指标。
AI 安全创业公司完成新一轮融资
一家专注大模型安全评估的创业公司完成融资,计划扩展评测与合规自动化产品线。
安全投入 ROI 报告出炉
报告尝试量化 AI 安全投入与事故损失之间的关系,为 CXO 级决策提供参考框架。