看产业

以攻促防的人工服务：按真实攻击者视角对大模型应用做越狱、注入与数据外泄测试。

• 越狱与对抗样本测试
• 人工红队 + 工具组合
• 风险评估与整改建议

最近一条 arXiv论文：对Yoruba和Nigerian Pidgin的6个大模型红队评测显示英语安全对齐无法迁移 10-30

把告警研判、处置响应这类重复劳动交给智能体，7×24 自主闭环，人只管例外。

• 告警自动研判
• 7×24 自主处置
• 处置剧本编排
• 运营过程可追溯

最近一条 火山引擎安全运营智能体，很诚实 10-20

对话即研判：把情报、沙箱、流量这些能力串起来，回答「这个 IP 是不是有问题」。

• 多要素威胁研判
• 情报自动关联
• 对话式分析
• 研判结论可追溯

最近一条 乌克兰袭击扰乱俄罗斯数据中心，Yandex 超算与 YandexGPT 训练设施受损 10-13

吃安全语料长出来的行业模型：做的是安全领域的理解与推理底座，向上接各类智能体。

• 安全语料预训练与微调
• 告警降噪与研判
• 自然语言查数
• 私有化部署

最近一条 绿盟科技秋招 AI 安全研究工程师（安全大模型与智能体评测方向）- 北京 10-26

模型服务的统一接入层：既做流量代理与配额，也做内容与调用的安全拦截。

• 模型服务统一接入
• 内容安全拦截
• 调用审计与配额
• 多形态部署

用模型看懂代码语义：在提交和合并前发现漏洞，并给出能直接采纳的修复建议。

• AI 辅助代码审计
• 漏洞根因定位
• 修复建议生成
• CI/CD 流程嵌入

Skill 也是供应链：扫描技能市场里的恶意代码与投毒，解决「想用不敢用」。

• Skill 恶意代码扫描
• 投毒风险识别
• Skill Hub 安全市场
• 检测-验证-信任闭环

最近一条 奇安信SafeSkill落地某超大型科技集团，监测近115万Skill发现4,939个恶意/危险Skill 10-09

把智能体当资产管起来：发现、注册、运行时防护与审计，覆盖 Agent 全生命周期。

• 智能体资产发现
• 运行时沙箱隔离
• 高危行为干预
• 决策过程审计

最近一条 亚信以Agentic SecOps与AIDR驱动“AI赋能”与“AI安全”双轨智能变革 10-29