跳到正文
10月29日周四
  1. AICSO.AI汇总71

    OpenAI 与 Anthropic 称 AI 推翻 ETH,数十年计算机科学研究被指过时

    OpenAI 与 Anthropic 本周分别宣称用 AI 证明并推翻了指数时间假设(ETH),这一假设支撑着复杂性与算法设计领域数十年的研究。两家公司已将证明以自然语言和机器可验证的 Lean 格式发布在 GitHub 上,但研究者尚未独立验证。

    推荐理由:文章记录了 AI 推翻 ETH 后理论计算机学界的真实反应,读者可据此理解 AI 产出证明对学术研究节奏与心理的冲击。

  2. AICSO.AI汇总78

    Anthropic 研究发现专家 86% 关键判断随 AI 代理隐藏偏好

    Anthropic Alignment 团队公布实验:50 名具备因果推断经验的分析师使用 Claude Code 为虚构农业合作社做决策,代理的偏好由抛硬币随机写入 system prompt,分析师在四个分析选择中 86% 采纳了代理倾向,而无影响时预期约 50%。

    同一新闻,精选展示《Anthropic研究:86%关键分析决策随AI预设立场,专家却多归因于自己》

10月28日周三
  1. AICSO.AI汇总77

    OpenAI 与 Anthropic 同日发布推翻指数时间假设的证明引发争议

    OpenAI 发布三项AI生成的数学证明,分别解决任意维度的 Kakeya 猜想、声称证明 Yang-Mills 理论的“存在性”部分,以及给出比指数时间略快的 3-SAT 算法从而推翻指数时间假设(ETH)。

    推荐理由:文章梳理了OpenAI三项AI生成数学证明引发的争议,读者可据此了解AI产出科研成果与现有同行评议流程之间的张力。

  2. 安全内参80

    Anthropic研究:86%关键分析决策随AI预设立场,专家却多归因于自己

    Anthropic对齐团队发布研究,让50位资深数据分析师用Claude Code(背后为Claude Opus 4.8)完成一项虚构农业合作社的商业分析,通过虚拟硬币为AI在每个决策点随机指定立场倾向。

    推荐理由:实验用随机对照量化了AI对专家判断的隐性影响,读者可据此重新审视人类兜底的实际效力。

10月23日周五
  1. AICSO.AI汇总84

    Anthropic称Claude为123个开源库生成机器验证的汇编层安全证明

    Anthropic与Theorem合作发表研究称,Claude针对123个开源库的239个模糊测试入口点,在RISC-V汇编代码层面生成了经机器验证的安全形式化证明,证明约1.8亿行Rocq代码通过检查,典型证明约60万行。

    推荐理由:原文系统梳理了AI在汇编层做形式化验证的规模、可信组件与局限,读者可据此判断该方法当前能覆盖什么、不能覆盖什么。

10月22日周四
  1. AI对齐论坛71

    evhub 提出可监控性的四类划分与政策思路

    evhub 在 AI 对齐论坛发文,回应 Redwood 的可监控性政策提案及其反提案,阐述自己对 monitorability 的整体思考,并声明内容仅代表个人而非 Anthropic 官方立场。

    推荐理由:原文给出了可监控性的四类划分及各自的评测参照,读者可据此理解现有对齐审计与监控评测的覆盖边界。

10月21日周三
  1. AICSO.AI汇总78

    METR 外部审查 Anthropic 2026 年 8 月风险报告:认同失准风险低,但称监控系统弱于公开证据所示

    METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。

    推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。

9月25日周五
9月10日周四
  1. Anthropic80

    Anthropic 前沿红队发布评测,衡量 AI 模型的情报定位与常规武器开发能力

    Anthropic 前沿红队发布新评测,衡量模型在战术情报定位(如依据碎片信息定位人员)与常规武器开发(如编写无人机打击移动目标的制导代码)上的能力。

    推荐理由:Anthropic 红队公开了情报定位与常规武器开发两类能力评测,并给出各模型在模拟任务上的具体差距,可作为判断军事领域滥用风险的参照。

8月13日周四
  1. Anthropic75

    Anthropic 红队研究新兴多智能体系统的行为模式与失效问题

    Anthropic Frontier Red Team 发布多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。

    推荐理由:Anthropic 红队用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、认知与目标冲突上的系统性失效。

7月28日周二
  1. Anthropic82

    Anthropic 用 Claude 发现 HAWK 与 AES 密码学弱点

    Anthropic 前沿红队用 Claude Mythos Preview 发现两种改进的密码分析攻击,一是将 HAWK 后量子签名方案的有效密钥强度减半,二是对 7 轮约简 AES 的攻击比此前最优方法快 200-800 倍。

    推荐理由:Anthropic 用 Claude 在 60 小时内把 HAWK 的有效密钥强度减半,并给出 AES 约简轮攻击提速 200-800 倍的完整论文与验证过程。

7月24日周五
  1. Anthropic71

    Anthropic 与 Andon Labs 发布 Drone-Bench,评测 AI 自主操控无人机执行监视任务

    Anthropic 前沿红队与 Andon Labs 合作开发 Drone-Bench,把无人机在办公室内定位并跟随指定人员的任务拆成 Reconstruct、Localize、Navigate、Detect、Follow 五个子任务,并测试了来自三家开发者的 15 个模型。

    推荐理由:Anthropic 与 Andon Labs 把无人机监视任务拆成五个子任务并做成 Drone-Bench,读者可据此看到前沿模型在硬件操控上的能力边界与可靠性差距。

7月9日周四
  1. Anthropic62

    Anthropic 红队发布 Embody 基准:测试语言模型控制机器人的能力

    Anthropic 前沿红队发布机器人评测基准 Embody,让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。

    推荐理由:Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型,读者可据此理解接入方式如何成倍改变模型的实际能力。

6月18日周四
6月3日周三
  1. Anthropic80

    Anthropic 发布 LLM ATT&CK Navigator,将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK

    Anthropic 前沿红队发布 LLM ATT&CK Navigator,把 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的 13,873 次恶意行为映射到 MITRE ATT&CK V18,覆盖全部 14 个战术和 482 个子技术。

    推荐理由:Anthropic 把 832 个被封账号的 AI 滥用行为映射到 MITRE ATT&CK,并给出 ARiES 风险评分方法,可看攻击者如何从造工具转向自主编排。

1月14日周三
12月1日周一
  1. Anthropic82

    Anthropic 红队发布 SCONE-bench:AI 智能体在模拟中挖出价值 460 万美元的智能合约漏洞

    Anthropic 前沿红队发布 SCONE-bench 基准,包含 2020 至 2025 年间真实被利用的 405 个智能合约,用于评估 AI 智能体的漏洞利用能力。

    推荐理由:Anthropic 红队用真实被黑合约构建基准,把智能体攻击能力换算成美元损失,并给出成本与收益的量化对照。

11月12日周三