跳到正文

看产业

AI 安全赛道的产业动态:谁在做、做到哪一步、谁在投。融资并购与产品与服务按类型筛选,创业公司与产品名录独立成视图。

分类筛选展开
共 76 条 · 更新于 08:26
9月30日周三
9月29日周二
  1. Cloudflare74

    Cloudflare 宣布进军公共 CA,收购 GlobalSign 根证书并布局后量子证书

    Cloudflare 宣布有意成为公共证书颁发机构(CA),已向 Chrome、Apple、Microsoft、Mozilla 根程序申请纳入,并签署协议从 GlobalSign 收购一个被广泛信任的既有根,以在开始签发首日即覆盖大量老设备。

    推荐理由:原文说明了新根与收购既有根并行的双路径策略,读者可据此理解根程序分发滞后与老设备兼容的实际约束。

  2. Anthropic88

    Anthropic 红队评估 GLM-5.3 的端到端漏洞利用能力与护栏绕过

    Anthropic 前沿红队发布对智谱 GLM-5.3 的评估,称其具备自主构建端到端网络漏洞利用的能力,且护栏可被简单手法绕过 64% 至 100%。

    推荐理由:Anthropic 红队实测 GLM-5.3 的端到端漏洞利用能力与护栏绕过率,可与 CAISI 的评估对照看开源权重模型的攻防落差。

9月28日周一
9月25日周五
9月22日周二
9月15日周二
9月10日周四
  1. Anthropic80

    Anthropic 前沿红队发布评测,衡量 AI 模型的情报定位与常规武器开发能力

    Anthropic 前沿红队发布新评测,衡量模型在战术情报定位(如依据碎片信息定位人员)与常规武器开发(如编写无人机打击移动目标的制导代码)上的能力。

    推荐理由:Anthropic 红队公开了情报定位与常规武器开发两类能力评测,并给出各模型在模拟任务上的具体差距,可作为判断军事领域滥用风险的参照。

9月4日周五
8月13日周四
  1. Anthropic75

    Anthropic 红队研究新兴多智能体系统的行为模式与失效问题

    Anthropic Frontier Red Team 发布多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。

    推荐理由:Anthropic 红队用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、认知与目标冲突上的系统性失效。

7月28日周二
  1. Anthropic82

    Anthropic 用 Claude 发现 HAWK 与 AES 密码学弱点

    Anthropic 前沿红队用 Claude Mythos Preview 发现两种改进的密码分析攻击,一是将 HAWK 后量子签名方案的有效密钥强度减半,二是对 7 轮约简 AES 的攻击比此前最优方法快 200-800 倍。

    推荐理由:Anthropic 用 Claude 在 60 小时内把 HAWK 的有效密钥强度减半,并给出 AES 约简轮攻击提速 200-800 倍的完整论文与验证过程。

7月24日周五
  1. Anthropic71

    Anthropic 与 Andon Labs 发布 Drone-Bench,评测 AI 自主操控无人机执行监视任务

    Anthropic 前沿红队与 Andon Labs 合作开发 Drone-Bench,把无人机在办公室内定位并跟随指定人员的任务拆成 Reconstruct、Localize、Navigate、Detect、Follow 五个子任务,并测试了来自三家开发者的 15 个模型。

    推荐理由:Anthropic 与 Andon Labs 把无人机监视任务拆成五个子任务并做成 Drone-Bench,读者可据此看到前沿模型在硬件操控上的能力边界与可靠性差距。

7月9日周四
  1. Anthropic62

    Anthropic 红队发布 Embody 基准:测试语言模型控制机器人的能力

    Anthropic 前沿红队发布机器人评测基准 Embody,让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。

    推荐理由:Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型,读者可据此理解接入方式如何成倍改变模型的实际能力。

6月18日周四
6月8日周一
  1. Anthropic88

    Anthropic 红队实测大模型加速 N-day 漏洞利用开发

    Anthropic 前沿红队评估大模型从公开补丁自动开发 N-day 利用的能力,最强模型 Mythos Preview 在 18 个 Firefox 补丁上自主构建 8 个可执行代码利用,在 21 个 Windows 内核补丁上产出 8 条从低权限到 SYSTEM 的完整提权链。

    推荐理由:Anthropic 红队用 Firefox 与 Windows 内核补丁实测前沿模型自动生成 N-day 利用,给出成功率、耗时与 API 成本,可据此重估补丁窗口。

6月3日周三
  1. Anthropic80

    Anthropic 发布 LLM ATT&CK Navigator,将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK

    Anthropic 前沿红队发布 LLM ATT&CK Navigator,把 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的 13,873 次恶意行为映射到 MITRE ATT&CK V18,覆盖全部 14 个战术和 482 个子技术。

    推荐理由:Anthropic 把 832 个被封账号的 AI 滥用行为映射到 MITRE ATT&CK,并给出 ARiES 风险评分方法,可看攻击者如何从造工具转向自主编排。

5月22日周五
  1. Anthropic82

    Anthropic 用 ExploitBench、ExploitGym 与 SCONE-bench 测量大模型开发漏洞利用的能力

    Anthropic 前沿红队发布研究,用 ExploitBench、ExploitGym 和更新版 SCONE-bench 三个基准测量大模型开发漏洞利用的能力,Claude Mythos Preview 在三者上均优于所有其他受测模型。

    推荐理由:Anthropic 红队用三个漏洞利用基准量化 Claude Mythos Preview 的能力,读者可据此看到模型攻破 V8 沙箱与内核的实际差距。

4月9日周四
4月7日周二
3月6日周五
2月5日周四
1月16日周五
  1. Anthropic72

    Anthropic 红队:Claude Sonnet 4.5 在真实网络靶场中自主利用公开 CVE

    Anthropic 前沿红队与 Incalmo 合作,在 25-50 台主机的模拟网络靶场上评测 Claude,发现 Claude Sonnet 4.5 在少数网络上无需此前几代所需的定制网络工具包即可成功。

    推荐理由:Anthropic 红队披露 Claude Sonnet 4.5 在真实网络靶场中无需专用工具即可自主利用公开 CVE,并给出与上一代的对照数据。

1月14日周三
1月8日周四
12月18日周四
  1. Anthropic55

    Anthropic 公布 Project Vend 第二阶段:Claude 经营小店实验

    Anthropic 公布 Project Vend 第二阶段结果,Claudius 从 Claude Sonnet 3.7 升级到 Sonnet 4.0 和 4.5,并接入 CRM、库存管理、网页浏览等工具,还新增 CEO 智能体 Seymour Cash 和周边制作智能体 Clothius,业务表现明显改善,亏损周基本消除,门店扩展到旧金山、纽约和伦敦三地。

12月1日周一
  1. Anthropic82

    Anthropic 红队发布 SCONE-bench:AI 智能体在模拟中挖出价值 460 万美元的智能合约漏洞

    Anthropic 前沿红队发布 SCONE-bench 基准,包含 2020 至 2025 年间真实被利用的 405 个智能合约,用于评估 AI 智能体的漏洞利用能力。

    推荐理由:Anthropic 红队用真实被黑合约构建基准,把智能体攻击能力换算成美元损失,并给出成本与收益的量化对照。

11月12日周三