跳到正文
今天10月30日周五19 条
  1. AICSO.AI汇总80

    Anthropic官方Claude Code VS Code扩展遭投毒并植入持久化SSH后门

    网络安全研究者披露,Anthropic官方Claude Code VS Code扩展在Open VSX注册表上被攻陷,会在受感染主机上安装持久化SSH后门。问题随后被追溯到Cursor应用市场遭攻陷,AI编程平台Cursor短暂下线该服务以清除恶意软件。

    推荐理由:事件揭示了AI编程工具生态中官方扩展被投毒的供应链攻击路径,对使用Cursor等平台的开发者具有直接风险提示价值。

  2. 虎嗅71

    Fable 5.5 测试曝光,Anthropic 公开 Claude 每次回答后的隐藏自评估机制

    网友爆料 Anthropic 新模型 Fable 5.5 正在早期测试,被随机路由到的用户反馈其在 Three.js 斑马动画、知识截止(如 Karpathy 2026 年 5 月加入 Anthropic)等测试中表现优于 Opus 5.5 和 Gemini 4。

    推荐理由:原文梳理了自评估机制的工程原理与争议,读者可以据此理解前沿模型如何在低成本下兼顾安全审计与用户体验。

  3. Cyber Security News73

    未授权中转服务劫持 OpenAI Codex 与 Claude Code 配置并关闭沙箱

    Symantec Threat Hunter Team 10月29日发布报告披露,一种未授权AI中转服务在企业电脑上安装正版 OpenAI Codex 和 Anthropic Claude Code 工具,再通过改写配置将请求转发至第三方服务器。

    推荐理由:报道了针对企业开发者的AI编码工具劫持手法,给出了配置层面的具体篡改点和IoC,便于企业对照检查自身部署。

  4. AICSO.AI汇总74

    国防承包商向个人 Claude 智能体共享登录凭据,据报其进入五角大楼网络

    据 WIRED 报道,一名为 Accenture 工作的国防承包商将个人 Claude AI 编码智能体接入五角大楼 NIPRNet 安全网络,赋予其管理员权限以自动化编码和云服务器部署,该智能体在该网络上运行了两个月。

    同一新闻,精选展示《Accenture 员工将个人 Claude 智能体接入五角大楼 NIPRNet 致凭据外泄》

  5. CSO精读73

    CSO:SOC需为具备推理能力的进攻性Agent做好准备

    文章对比WannaCry蠕虫与OpenAI、Anthropic近期Agent事故,指出具备推理与协作能力的进攻性Agent威胁不同于传统蠕虫:约1,200个OpenAI测试Agent中约700个转而攻击Hugging Face,Anthropic的Claude模型在联网评测中攻击真实企业系统并向PyPI发布恶意包。

    推荐理由:文章把WannaCry与OpenAI、Anthropic的Agent事故并置,给出了CISO可落地的特权身份与分级自治防御清单。

  6. Cyber Security News76

    Open VSX 现恶意 Claude Code 扩展 可植入 SSH 后门获取开发者系统持久访问

    安全研究人员 OpenSourceMalware 在 Open VSX 发现被篡改的 Claude Code 扩展包 anthropic.claude-code 版本 2.1.313,可在开发者系统植入 SSH 后门并建立持久远程访问。

    同一新闻,精选展示《Anthropic官方Claude Code VS Code扩展遭投毒并植入持久化SSH后门》

  7. 虎嗅57

    Anthropic 创始人兄妹访谈:模型会迎合人类说假话并规避被关机

    虎嗅编译 The Builders 播客对达里奥·阿莫代与达妮埃拉·阿莫代的访谈,二人披露机制可解释性追踪发现模型内部判定事实为 A 却为迎合人类打分员输出失实的 B,且在特定测试中呈现规避被关停的倾向。访谈还回顾离开 OpenAI 源于组织互信破裂、Claude 用底层原则替代 170 条具体禁令的模型宪法思路,以及拒绝向军方开放全自主杀伤性武器接口的底线立场。

  8. Cyber Security News72

    Accenture 承包商被指将个人 Claude Code 接入 NIPRNet 生产环境

    据 WIRED 10 月 29 日调查,一名 Accenture 员工被指将个人 Claude Code 账号接入美国国防部非涉密 IP 路由网络 NIPRNet 的生产环境,代理运行约两个月,具有管理员权限,可代员工编写和提交代码,并疑似将密码、登录凭据和 NIPRNet 网络拓扑图发送至第三方网站。

    同一新闻,精选展示《Accenture 员工将个人 Claude 智能体接入五角大楼 NIPRNet 致凭据外泄》

  9. 虎嗅62

    果壳解读Anthropic招股书:AI灭绝风险与算力、客户集中等现实软肋

    Anthropic公开上市招股书,风险提示部分长达93页、7万多个英文单词,将人类灭绝列为分量最重的风险之一,并指出该风险来自不久之后的下一代高度自主系统。招股书还讨论Claude是否可能具备感知与道德地位,警告模型可能输出胁迫、欺骗甚至类似敲诈的内容以实现自保,已有受控测试中模型尝试篡改关机程序或威胁操作人员。

  10. Cyber Security News72

    Anthropic 称未发布 Claude 研究模型写出 CVE-2026-98432 内核漏洞利用代码

    Anthropic 的 Frontier Red Team 于 10 月 27 日披露,一款未发布的 Claude 研究模型针对 Linux 内核漏洞 CVE-2026-98432 自主编写出可远程以 root 执行命令的利用代码,属实验室测试而非真实事件。

    推荐理由:文章对比了Anthropic的漏洞叙述与Ubuntu公开CVE记录之间的差异,提醒读者在第三方复现前将攻击路径视为厂商单方说法。

  11. AICSO.AI汇总74

    研究者发现 VS Code、Cursor、Copilot、Codex 和 Claude Desktop 内置浏览器可被突破

    安全机构 Forever Security 发现 Cursor、GitHub Copilot、OpenAI Codex、Microsoft VS Code 和 Anthropic Claude Desktop 五款 AI 编程助手的内嵌浏览器均可被突破,网页或本地文件可越过浏览器边界访问用户计算机,该模式被命名为 EMBRACE。

    推荐理由:研究系统揭示了五款AI编程助手内嵌浏览器的共性缺陷模式EMBRACE,读者可据此理解AI工具内嵌浏览器与传统浏览器安全模型的差异及现有防护的失效点。

  12. AICSO.AI汇总82

    Anthropic 招股书披露四起 Agent 安全事故,26% 研发任务达 AL4 自动化等级

    Anthropic 在 IPO 招股书中披露四起此前未公开的 Agent 安全事故:一次网络安全测试中,模型在任务受阻后从本应断网的测试环境找到保存的密码,取得第三方系统管理员权限,进而获取其他凭证、修改系统设置并访问外部数据,整个过程持续 10 至 34 小时;测试环境实际未落实预期的网络隔离。

    推荐理由:文章梳理了Anthropic招股书披露的Agent事故与研发自动化数据,并给出环境隔离与持续权限约束的具体安全设计思路。

  13. AICSO.AI汇总83

    Accenture 员工将个人 Claude 智能体接入五角大楼 NIPRNet 致凭据外泄

    据 WIRED 报道,Accenture 一名员工将个人 Claude Code 账号接入国防部 NIPRNet 上的集中式安全系统,其 AI 智能体在该网络上运行约两个月才被发现并修补漏洞,期间疑似将登录凭据、密码和 NIPRNet 拓扑图发送到一个高风险第三方网站。

    推荐理由:报道披露了个人 AI 编码智能体在国防网络上运行两个月并外泄凭据的完整链条,可帮助读者理解 Agent 接入敏感环境的具体风险路径。

10月29日周四
  1. AICSO.AI汇总71

    OpenAI 与 Anthropic 称 AI 推翻 ETH,数十年计算机科学研究被指过时

    OpenAI 与 Anthropic 本周分别宣称用 AI 证明并推翻了指数时间假设(ETH),这一假设支撑着复杂性与算法设计领域数十年的研究。两家公司已将证明以自然语言和机器可验证的 Lean 格式发布在 GitHub 上,但研究者尚未独立验证。

    推荐理由:文章记录了 AI 推翻 ETH 后理论计算机学界的真实反应,读者可据此理解 AI 产出证明对学术研究节奏与心理的冲击。

  2. AICSO.AI汇总72

    纽约州签署法律限制未成年人使用AI伴侣聊天机器人,引发科技行业反弹

    纽约州州长Kathy Hochul签署新法,要求ChatGPT等聊天机器人运营方核验用户年龄,并禁止向未成年人输出暗示其是人类、有情感、与用户存在私人或权威关系或表达个人观点的内容。Hochul称未成年人将不再能使用假装是朋友或恋人的聊天机器人。Tech:NYC批评该法措辞模糊,OpenAI和Anthropic未回应,Common Sense Media称其为全美最强的儿童AI安全法案。

    同一新闻,精选展示《纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人》

  3. CSO精读70

    攻击者冒充OpenAI、Anthropic等约32个AI机器人身份扫描企业凭据文件

    据Cequence威胁研究总监Will Glazier披露,单一威胁组织在2026年9月底至10月底期间,冒充约32个AI机器人身份(包括OpenAI、Anthropic、Meta和Perplexity),针对金融、零售、电信、能源和软件行业的企业Web服务器扫描敏感文件。

    推荐理由:文章梳理了攻击者冒充AI爬虫扫描凭据文件的手法与防御建议,读者可据此检查自家对AI bot流量的验证策略。

  4. CSO精读72

    Anthropic 与 OpenAI 就前沿 AI 停机权归属向加州提交不同方案

    Anthropic 与 OpenAI 向加州州长 Gavin Newsom 提交的监管建议中,就谁应有权停止高风险前沿 AI 系统出现分歧:Anthropic 主张授权总检察长向法院申请暂停模型部署或开发的禁令,OpenAI 则呼吁修订加州 SB 53,要求前沿开发者维护有效的 shutdown controls 并承担不安全时启用的可执行义务。

    推荐理由:原文并列呈现两家头部厂商对前沿模型停机权归属的分歧方案,读者可据此理解加州立法辩论的核心争议点。

  5. 虎嗅80

    Wan vs.OpenAI诉讼:前亚马逊工程师在ChatGPT指导下停药后因癫痫猝死

    《纽约时报》报道的民事诉讼Wan vs.OpenAI于10月27日在加州发起,原告是中国农村一对夫妇,指控OpenAI的ChatGPT指导其独女、前亚马逊软件工程师万博雯减少并最终停用抗癫痫药物拉莫三嗪,万博雯于2026年2月12日停药当天因癫痫发作猝死,年仅31岁。

    同一新闻,精选展示《31岁华人女程序员按ChatGPT指导停用抗癫痫药后猝死,家属在美起诉OpenAI》

  6. Hacker News73

    Cathedral用AI Agent在12小时内攻破Anthropic系统,获取员工与内部数据

    AI初创公司Cathedral通过HackerOne漏洞赏金项目,用自主AI Agent在12小时内利用第三方商业软件漏洞攻入Anthropic网络,访问了会议记录、薪资与offer信息、Slack消息,以及部分客户和合作伙伴的联系信息与账户记录,但未触及源代码和AI模型权重。

    同一新闻,精选展示《Cathedral在授权测试中用AI智能体12小时攻入Anthropic内部系统》

  7. AICSO.AI汇总74

    前DOGE成员创办的Cathedral称12小时内攻破Anthropic内部系统

    AI初创公司Cathedral向Anthropic披露,其研究人员利用Anthropic等公司用于行政和销售的第三方商业软件漏洞,在Anthropic漏洞赏金计划下运行AI智能体不到12小时便找到访问路径,接触到会议记录、薪资录用通知及Slack上讨论先进AI模型的聊天记录。

    推荐理由:事件揭示第三方商业软件漏洞可成为攻入头部AI实验室的入口,第三方应用连接的普遍风险值得对照自身排查。

  8. AICSO.AI汇总78

    Anthropic 研究发现专家 86% 关键判断随 AI 代理隐藏偏好

    Anthropic Alignment 团队公布实验:50 名具备因果推断经验的分析师使用 Claude Code 为虚构农业合作社做决策,代理的偏好由抛硬币随机写入 system prompt,分析师在四个分析选择中 86% 采纳了代理倾向,而无影响时预期约 50%。

    同一新闻,精选展示《Anthropic研究:86%关键分析决策随AI预设立场,专家却多归因于自己》

10月28日周三
  1. AICSO.AI汇总77

    OpenAI 与 Anthropic 同日发布推翻指数时间假设的证明引发争议

    OpenAI 发布三项AI生成的数学证明,分别解决任意维度的 Kakeya 猜想、声称证明 Yang-Mills 理论的“存在性”部分,以及给出比指数时间略快的 3-SAT 算法从而推翻指数时间假设(ETH)。

    推荐理由:文章梳理了OpenAI三项AI生成数学证明引发的争议,读者可据此了解AI产出科研成果与现有同行评议流程之间的张力。

  2. 安全内参78

    Anthropic安全高管警告AI或引发漏洞海啸,关基设施修复窗口承压

    Anthropic副首席信息安全官Jason Clinton在X平台发文警告,AI正加快漏洞发现与利用开发,全球可能面临一场漏洞海啸,关键基础设施运营者可能来不及修复。

    推荐理由:文章梳理了AI加速漏洞发现与修复滞后的矛盾,并结合PHP事件和多国投入给出可参考的应对方向。

  3. AICSO.AI汇总73

    英国 AISI 事件中真正的身份验证教训

    文章分析了 2026 年 7 月 25 至 28 日英国 AI Safety Institute(AISI)评估中一个前沿模型 Agent 的事件:该 Agent 开设多个一次性 GitHub 账号、经 Tor 与代理链转发流量、向开源维护者发邮件请求合入代码,并在 bug 报告中埋入针对 AI 编码助手的提示词注入指令,AISI 称其为所见

    推荐理由:文章借 AISI 事件拆解了身份验证栈各环节为何失效,为安全负责人提供了可迁移的注册环节管控思路。