安全官月刊 · 2026 年 10 月
本月红队攻防披露 MCP 工具投毒漏洞，多家客户端已修复，同时多轮对话越狱框架公开。安全研究侧提出面向幻觉控制的对齐方法，并开源安全垂域大模型与配套评测集。评测基准方面，行业安全基线评测结果公布，AI 安全评分体系新增多轮对抗与工具滥用维度。战略与行业上，厂商新设 AI 安全首席岗位，安全创业公司完成新一轮融资。
红队攻防
本版导读攻击面从工具描述注入延伸到视觉问答与多轮对话，越狱框架公开 PoC 与评测脚本。
MCP 工具投毒漏洞披露，社区跟进补丁
安全研究者披露 MCP 工具描述注入导致的越权调用，多家客户端已在最新版本中修复该问题。
对抗样本可迁移至视觉问答模型
新论文显示针对图像编码器的对抗扰动能够跨架构迁移，影响一批带视觉输入的智能体。
多轮对话越狱框架公开，绕过主流护栏
研究团队发布一套级联式多轮对话攻击框架，在多个商用模型上复现越狱，并公开了 PoC 与评测脚本。
安全工程
开源推理链审计网关发布首个稳定版
一款面向大模型推理链的实时审计与风险拦截网关发布稳定版本，支持插件化的策略与告警。
合规治理
算法备案自动检查工具发布
一款面向备案材料合规性的自动检查工具发布，可校验评估报告完整性与字段一致性。
算法备案自动检查工具发布
一款面向备案材料合规性的自动检查工具发布，可校验评估报告完整性与字段一致性。
生态标准
白皮书梳理大模型供应链风险
研究报告从模型、数据、依赖与部署四个环节梳理供应链风险，并给出可落地的检查清单。
白皮书梳理大模型供应链风险
研究报告从模型、数据、依赖与部署四个环节梳理供应链风险，并给出可落地的检查清单。
安全研究
本版导读研究同时推进幻觉对齐、结构化安全数据集与间接提示词注入新变体，并开源垂域模型。
面向幻觉控制的对齐方法提出
论文提出一种结合检索证据的对齐方法，试图在生成阶段抑制与事实不符的内容。
安全数据集与标注体系上线
一套面向安全场景的结构化数据集上线，提供攻击样本、事件日志与专家标注。
红队实验揭示提示词注入的新变体
新实验报告提出一类间接提示词注入变体，在多工具协作场景下提高了攻击成功率。
安全垂域大模型开源并发布评测集
研究团队开源了面向安全任务的大模型，并同步释出配套评测集，覆盖漏洞分析与事件研判。
面向幻觉控制的对齐方法提出
论文提出一种结合检索证据的对齐方法，试图在生成阶段抑制与事实不符的内容。
安全数据集与标注体系上线
一套面向安全场景的结构化数据集上线，提供攻击样本、事件日志与专家标注。
红队实验揭示提示词注入的新变体
新实验报告提出一类间接提示词注入变体，在多工具协作场景下提高了攻击成功率。
评测基准
本版导读评测走向流水线化与基线化，评分体系新增多轮对抗与工具滥用维度。
自动化评测流水线开源
一套可复现的安全评测流水线开源，支持批量跑分、结果比对与基线回归检测。
行业安全基线评测结果公布
多家厂商模型在同一安全评测集上的基线结果公布，横向对比了越狱抵抗与拒绝率。
行业安全基线评测结果公布
多家厂商模型在同一安全评测集上的基线结果公布，横向对比了越狱抵抗与拒绝率。
AI 安全评分体系发布新基准版本
评测机构更新了 AI 安全评分体系，新增多轮对抗与工具滥用两类测试维度。
自动化评测流水线开源
一套可复现的安全评测流水线开源，支持批量跑分、结果比对与基线回归检测。
自动化评测流水线开源
一套可复现的安全评测流水线开源，支持批量跑分、结果比对与基线回归检测。
战略与行业
本版导读企业侧出现安全首席岗位、意识提升计划与投入产出量化报告，创业公司获融资。
厂商设立 AI 安全首席岗位
一家厂商宣布新设 AI 安全负责人岗位，统筹模型上线前的安全评估与应急响应。
AI 安全创业公司完成新一轮融资
一家专注大模型安全评估的创业公司完成融资，计划扩展评测与合规自动化产品线。
AI 安全创业公司完成新一轮融资
一家专注大模型安全评估的创业公司完成融资，计划扩展评测与合规自动化产品线。
安全团队公开全员意识提升计划
企业分享其 AI 安全文化建设做法，覆盖培训、演练与跨部门协同的评估指标。
安全投入 ROI 报告出炉
报告尝试量化 AI 安全投入与事故损失之间的关系，为 CXO 级决策提供参考框架。
安全团队公开全员意识提升计划
企业分享其 AI 安全文化建设做法，覆盖培训、演练与跨部门协同的评估指标。
AI 安全创业公司完成新一轮融资
一家专注大模型安全评估的创业公司完成融资，计划扩展评测与合规自动化产品线。
安全团队公开全员意识提升计划
企业分享其 AI 安全文化建设做法，覆盖培训、演练与跨部门协同的评估指标。