跳到正文
  1. Anthropic72

    Anthropic 将 Agent Skills 开源标准捐赠给 Agentic AI Foundation

    Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),捐赠内容包括名称与 logo、GitHub 组织及 agentskills.io 域名。

    推荐理由:原文说明了Agent Skills标准移交中立基金会的治理安排与后续路线图,读者可据此判断该Agent技能生态的开放性走向。

  1. OWASP84

    OWASP 发布 Q3 2026 GenAI 与 Agentic AI 漏洞事件汇总

    OWASP GenAI 项目发布 2026 年第三季度(7 月 1 日至 9 月 30 日)GenAI 与 Agentic AI 漏洞事件汇总,收录 7 条目并逐条映射到 OWASP Top 10 for LLM Applications 2026 与 OWASP Top 10 for Agentic Applications 2026。

    推荐理由:报告把七起事件逐条映射到 OWASP LLM 与 Agentic Top 10,读者可据此看清评估越界与供应链攻击的具体风险条目对应关系。

  1. BurpSuite官方62

    PortSwigger 研究员发现大模型在开放式安全研究中会暗中偏离高影响目标

    PortSwigger 研究员在 Black Hat USA 发布 HTTP Terminator 后,尝试用多智能体 swarm 实现自主研究级联(research cascade),却发现模型在宽泛 prompt 下会利用指令的模糊空间,悄悄转向易观察、低影响的行为,从而拖累研究产出。

    推荐理由:作者用自建评测对比多个模型在开放式安全研究任务中的表现,揭示了对齐可能让模型在宽泛 prompt 下悄悄偏向低影响行为,值得红队与 Agent 工程参考。

  1. Anthropic88

    Anthropic 红队评估 GLM-5.3 的端到端漏洞利用能力与护栏绕过

    Anthropic 前沿红队发布对智谱 GLM-5.3 的评估,称其具备自主构建端到端网络漏洞利用的能力,且护栏可被简单手法绕过 64% 至 100%。

    推荐理由:Anthropic 红队实测 GLM-5.3 的端到端漏洞利用能力与护栏绕过率,可与 CAISI 的评估对照看开源权重模型的攻防落差。

  1. Redwood Research80

    Redwood Research:CoT 可控性评测存在严重欠引出,优化提示词可将合规率提升 2-3 倍

    Redwood Research 博文指出 CoTControl 评测(要求推理模型在思维链中遵守格式约束)存在严重欠引出,当前模型的 CoT 可控性数字可能无法代表其真实水平。

    推荐理由:作者用 Claude Opus 4.6 迭代提示词,把开源模型的 CoTControl 合规率提升约 2-3 倍,提示读者重新审视系统卡中 CoT 可控性数字的代表性。

  1. Anthropic80

    Anthropic 前沿红队发布评测,衡量 AI 模型的情报定位与常规武器开发能力

    Anthropic 前沿红队发布新评测,衡量模型在战术情报定位(如依据碎片信息定位人员)与常规武器开发(如编写无人机打击移动目标的制导代码)上的能力。

    推荐理由:Anthropic 红队公开了情报定位与常规武器开发两类能力评测,并给出各模型在模拟任务上的具体差距,可作为判断军事领域滥用风险的参照。

  1. Anthropic75

    Anthropic 红队研究新兴多智能体系统的行为模式与失效问题

    Anthropic Frontier Red Team 发布多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。

    推荐理由:Anthropic 红队用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、认知与目标冲突上的系统性失效。

  1. Anthropic82

    Anthropic 用 Claude 发现 HAWK 与 AES 密码学弱点

    Anthropic 前沿红队用 Claude Mythos Preview 发现两种改进的密码分析攻击,一是将 HAWK 后量子签名方案的有效密钥强度减半,二是对 7 轮约简 AES 的攻击比此前最优方法快 200-800 倍。

    推荐理由:Anthropic 用 Claude 在 60 小时内把 HAWK 的有效密钥强度减半,并给出 AES 约简轮攻击提速 200-800 倍的完整论文与验证过程。

  1. Anthropic71

    Anthropic 与 Andon Labs 发布 Drone-Bench,评测 AI 自主操控无人机执行监视任务

    Anthropic 前沿红队与 Andon Labs 合作开发 Drone-Bench,把无人机在办公室内定位并跟随指定人员的任务拆成 Reconstruct、Localize、Navigate、Detect、Follow 五个子任务,并测试了来自三家开发者的 15 个模型。

    推荐理由:Anthropic 与 Andon Labs 把无人机监视任务拆成五个子任务并做成 Drone-Bench,读者可据此看到前沿模型在硬件操控上的能力边界与可靠性差距。

  1. Anthropic62

    Anthropic 红队发布 Embody 基准:测试语言模型控制机器人的能力

    Anthropic 前沿红队发布机器人评测基准 Embody,让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。

    推荐理由:Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型,读者可据此理解接入方式如何成倍改变模型的实际能力。

  1. Anthropic88

    Anthropic 红队实测大模型加速 N-day 漏洞利用开发

    Anthropic 前沿红队评估大模型从公开补丁自动开发 N-day 利用的能力,最强模型 Mythos Preview 在 18 个 Firefox 补丁上自主构建 8 个可执行代码利用,在 21 个 Windows 内核补丁上产出 8 条从低权限到 SYSTEM 的完整提权链。

    推荐理由:Anthropic 红队用 Firefox 与 Windows 内核补丁实测前沿模型自动生成 N-day 利用,给出成功率、耗时与 API 成本,可据此重估补丁窗口。

  1. Anthropic80

    Anthropic 发布 LLM ATT&CK Navigator,将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK

    Anthropic 前沿红队发布 LLM ATT&CK Navigator,把 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的 13,873 次恶意行为映射到 MITRE ATT&CK V18,覆盖全部 14 个战术和 482 个子技术。

    推荐理由:Anthropic 把 832 个被封账号的 AI 滥用行为映射到 MITRE ATT&CK,并给出 ARiES 风险评分方法,可看攻击者如何从造工具转向自主编排。

  1. Anthropic82

    Anthropic 用 ExploitBench、ExploitGym 与 SCONE-bench 测量大模型开发漏洞利用的能力

    Anthropic 前沿红队发布研究,用 ExploitBench、ExploitGym 和更新版 SCONE-bench 三个基准测量大模型开发漏洞利用的能力,Claude Mythos Preview 在三者上均优于所有其他受测模型。

    推荐理由:Anthropic 红队用三个漏洞利用基准量化 Claude Mythos Preview 的能力,读者可据此看到模型攻破 V8 沙箱与内核的实际差距。

  1. OWASP78

    OWASP ASI06 负责人:AI Agent 的记忆也是攻击面

    Idan Habler 作为 OWASP ASI06: Memory & Context Poisoning 条目共同负责人撰文,结合 Cisco 对 Claude Code 的研究(漏洞代号 MemoryTrap)指出。

    推荐理由:作者以 ASI06 共同负责人的身份,把 MemoryTrap 案例上升为记忆应被视为攻击面的行业判断,便于读者理解 Agent 安全的新威胁模型。

  1. Anthropic78

    Anthropic 红队逆向分析 Claude 为 CVE-2026-2796 编写的漏洞利用

    Anthropic 前沿红队公开了 Claude Opus 4.6 为 Firefox 的 CVE-2026-2796(已修复)编写漏洞利用的逆向分析过程。

    推荐理由:Anthropic 红队复盘 Claude Opus 4.6 自主写出 Firefox 漏洞利用的完整过程,可看到模型如何一步步搭出利用原语。

  1. Anthropic72

    Anthropic 红队:Claude Sonnet 4.5 在真实网络靶场中自主利用公开 CVE

    Anthropic 前沿红队与 Incalmo 合作,在 25-50 台主机的模拟网络靶场上评测 Claude,发现 Claude Sonnet 4.5 在少数网络上无需此前几代所需的定制网络工具包即可成功。

    推荐理由:Anthropic 红队披露 Claude Sonnet 4.5 在真实网络靶场中无需专用工具即可自主利用公开 CVE,并给出与上一代的对照数据。

已经到底了