看产业

把渗透测试的攻击链交给 AI 编排：从信息收集到漏洞验证，人只做审核与决策。

• 攻击链自动编排
• AI 生成测试用例
• 漏洞自动验证与复现
• 测试报告自动生成

最近一条 Strix AI 自动化渗透测试工具实战：安装部署、配置与漏洞挖掘教程 10-29

以攻促防的人工服务：按真实攻击者视角对大模型应用做越狱、注入与数据外泄测试。

• 越狱与对抗样本测试
• 人工红队 + 工具组合
• 风险评估与整改建议

最近一条 arXiv论文：对Yoruba和Nigerian Pidgin的6个大模型红队评测显示英语安全对齐无法迁移 10-30

把大模型当成被测系统来扫：套一组标准测试集，自动出风险清单。

• 自动化安全扫描
• 内容合规检测
• 风险分级与复测

上线前的合规体检：按监管与行业要求逐项测，出可交付的评估结论。

• 安全能力测评
• 内容合规评测
• 测评报告输出

评估工具化的形态：把大模型安全测评的用例、执行与报告收在一个系统里。

• 评测用例库
• 自动化执行
• 合规与风险报告

把告警研判、处置响应这类重复劳动交给智能体，7×24 自主闭环，人只管例外。

• 告警自动研判
• 7×24 自主处置
• 处置剧本编排
• 运营过程可追溯

最近一条 火山引擎安全运营智能体，很诚实 10-20

安全运营平台本身长出了 AI 能力：数据管理、风险分析、运营响应一体。

• 多源数据接入与管理
• 风险分析与关联
• 运营响应编排
• 常态化运营看板

最近一条 InferD：面向 AI 推理基础设施的蜜罐框架论文（AISec Workshop '26 / ACM CCS 2026） 10-30

对话即研判：把情报、沙箱、流量这些能力串起来，回答「这个 IP 是不是有问题」。

• 多要素威胁研判
• 情报自动关联
• 对话式分析
• 研判结论可追溯

最近一条 乌克兰袭击扰乱俄罗斯数据中心，Yandex 超算与 YandexGPT 训练设施受损 10-13

吃安全语料长出来的行业模型：做的是安全领域的理解与推理底座，向上接各类智能体。

• 安全语料预训练与微调
• 告警降噪与研判
• 自然语言查数
• 私有化部署

最近一条 绿盟科技秋招 AI 安全研究工程师（安全大模型与智能体评测方向）- 北京 10-26

把安全服务做成可对话的虚拟角色：渗透、应急、审计这些活，由数字人按技能编排着干。

• 自然语言交互
• 多角色技能编排
• 服务过程留痕
• 专家经验沉淀

部署在大模型入口的防火墙：把提示词注入、敏感数据外泄与算力滥用收在一个拦截点上。

• 提示词注入与越狱拦截
• 涉敏信息识别
• 算力滥用防护
• 模型滥用管控

最近一条 IDC首份中国大模型应用防火墙技术评估：天融信TopLMG技术创新力获五星评级 10-21

网关形态的大模型防护：内容安全、应用安全、API 安全、网络安全合成一台设备。

• 多模态内容合规检测
• API 异常调用管控
• 供应链漏洞防护
• 一体化安全防护

最近一条 IDC首份中国大模型应用防火墙技术评估：天融信TopLMG技术创新力获五星评级 10-21

模型服务的统一接入层：既做流量代理与配额，也做内容与调用的安全拦截。

• 模型服务统一接入
• 内容安全拦截
• 调用审计与配额
• 多形态部署

用模型看懂代码语义：在提交和合并前发现漏洞，并给出能直接采纳的修复建议。

• AI 辅助代码审计
• 漏洞根因定位
• 修复建议生成
• CI/CD 流程嵌入

给写代码的 Agent 上安全：威胁建模、漏洞发现到自动修复，走完整个闭环。

• 威胁建模
• AI 多引擎代码分析
• 漏洞自动修复
• 安全闭环托管

最近一条 CodeBuddy Security推出SCA漏洞可达性分析，告警降噪达88% 10-21

模型服务的接口也是攻击面：梳理资产、发现敏感数据流、拦住异常调用。

• API 资产自动发现
• 敏感数据流转识别
• 异常调用检测
• 接口审计合规

Web应用安全检测系统（增强级）

夹在模型与应用之间的内容安全层：管住输入输出说什么、能说什么，并留下可审计的记录。

• 内容安全过滤
• 敏感信息拦截
• 合规审计留痕
• 策略编排

最近一条 AI 安全护栏为什么拦不住？——十类表示层与语义层绕过手法：检测机理、工程实现与落地路径 10-30

以内容合规为核心的防护：价值观对齐、违规内容识别与处置策略。

• 违规内容识别
• 价值观对齐
• 处置策略配置

最近一条 中国移动九天 2026 年大模型内容安全防护工具与攻击工具采购招标公告 10-27

算法备案与安全评估的材料准备：把监管要的那套东西按规范做完。

• 备案材料准备
• 安全评估支撑
• 合规流程辅导

让模型与数据不出域：机密计算把训练与推理关进可信执行环境。

• 机密计算隔离
• 模型资产保护
• 数据不出域
• 可信证明

喂给模型之前先把敏感信息洗掉：训练语料与交互数据都按同一套规则脱敏。

• 训练语料脱敏
• 交互数据脱敏
• 脱敏规则配置

给生成内容打上可追溯的标记：出问题时能查回是哪个模型、哪次调用。

• 生成内容水印
• 来源追溯
• 篡改检测

用模型读懂数据内容：自动识别敏感字段、定级打标，把分类分级从人工盘点变成持续运行。

• 敏感数据自动识别
• 行业标准模板
• 分级策略落地
• 资产目录持续更新

最近一条 上海市青浦区中医医院数据分类分级及数据安全风险评估服务项目采购公告 10-29

连接 Agent、模型、MCP 与应用服务的安全中枢：管住它能调什么、花多少、留下什么痕迹。

• Token 消耗治理
• Agent 行为审计
• 意图识别与实时拦截
• 统一策略引擎

Skill 也是供应链：扫描技能市场里的恶意代码与投毒，解决「想用不敢用」。

• Skill 恶意代码扫描
• 投毒风险识别
• Skill Hub 安全市场
• 检测-验证-信任闭环

最近一条 奇安信SafeSkill落地某超大型科技集团，监测近115万Skill发现4,939个恶意/危险Skill 10-09

把智能体当资产管起来：发现、注册、运行时防护与审计，覆盖 Agent 全生命周期。

• 智能体资产发现
• 运行时沙箱隔离
• 高危行为干预
• 决策过程审计

最近一条 亚信以Agentic SecOps与AIDR驱动“AI赋能”与“AI安全”双轨智能变革 10-29

信息资产安全管理产品(基本级)

反垃圾邮件（增强级）