跳到正文
  1. AICSO.AI汇总78

    METR 外部审查 Anthropic 2026 年 8 月风险报告:认同失准风险低,但称监控系统弱于公开证据所示

    METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。

    推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。

  1. Anthropic80

    Anthropic 前沿红队发布评测,衡量 AI 模型的情报定位与常规武器开发能力

    Anthropic 前沿红队发布新评测,衡量模型在战术情报定位(如依据碎片信息定位人员)与常规武器开发(如编写无人机打击移动目标的制导代码)上的能力。

    推荐理由:Anthropic 红队公开了情报定位与常规武器开发两类能力评测,并给出各模型在模拟任务上的具体差距,可作为判断军事领域滥用风险的参照。

  1. Anthropic71

    Anthropic 与 Andon Labs 发布 Drone-Bench,评测 AI 自主操控无人机执行监视任务

    Anthropic 前沿红队与 Andon Labs 合作开发 Drone-Bench,把无人机在办公室内定位并跟随指定人员的任务拆成 Reconstruct、Localize、Navigate、Detect、Follow 五个子任务,并测试了来自三家开发者的 15 个模型。

    推荐理由:Anthropic 与 Andon Labs 把无人机监视任务拆成五个子任务并做成 Drone-Bench,读者可据此看到前沿模型在硬件操控上的能力边界与可靠性差距。

  1. Anthropic62

    Anthropic 红队发布 Embody 基准:测试语言模型控制机器人的能力

    Anthropic 前沿红队发布机器人评测基准 Embody,让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。

    推荐理由:Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型,读者可据此理解接入方式如何成倍改变模型的实际能力。

已经到底了