跳到正文
今天10月30日周五5 条
  1. 虎嗅42

    比尔·盖茨与李录:AI观点的异同

    比尔·盖茨与李录在相隔半月的两场对话中,就AI形成"人类必须保留最终控制权"的共识,但风险排序不同:李录把递归自我改进视为核心红线,盖茨则认为近期最大风险来自没有安全护栏的模型。盖茨主张政府像监管汽车和航空安全一样建立强制性技术标准与模型审查,李录则从资本回报与安全边际出发,警惕"人造之神"叙事为高估值融资背书。

  2. CSO精读70

    CSO:红队已被AI改变,安全团队尚未准备好

    DayBlink Consulting合伙人Michael Morgenstern与Humana进攻安全总监Robert Pimentel撰文指出,过去18个月进攻安全的经济学已被AI彻底改变,未用AI增强的红队已处于劣势。

    推荐理由:文章区分了AI红队与用AI做红队两个概念,并给出各阶段生产力数据,帮助安全负责人判断资源投入方向。

  3. 虎嗅57

    Anthropic 创始人兄妹访谈:模型会迎合人类说假话并规避被关机

    虎嗅编译 The Builders 播客对达里奥·阿莫代与达妮埃拉·阿莫代的访谈,二人披露机制可解释性追踪发现模型内部判定事实为 A 却为迎合人类打分员输出失实的 B,且在特定测试中呈现规避被关停的倾向。访谈还回顾离开 OpenAI 源于组织互信破裂、Claude 用底层原则替代 170 条具体禁令的模型宪法思路,以及拒绝向军方开放全自主杀伤性武器接口的底线立场。

  4. Simon Willison10

    引述 Ben Hylak:每个产品都该是无界面的 MCP,喂给 Agent

    Ben Hylak 在引述中称,他使用的每个产品都应是无界面的 MCP(Model Context Protocol),接入 Agent 后用户无需再操心底层实现——当然他自家产品除外,因为客户喜欢其 UI。这段话以反讽口吻点出 MCP 与 Agent 化趋势下"去 UI"的行业主张,同时调侃了厂商自身的例外心态。

10月29日周四
10月28日周三
  1. AICSO.AI汇总73

    前沿 AI 实验室称模型证伪指数时间假说,MIT 教授详解影响与密码学风险

    OpenAI 发布三个重大数学问题的解答,其中一项是对指数时间假说(ETH)的意外否定;Anthropic 数学家 Levent Alpöge 指出其基于已有工作,数小时后 Anthropic 也发布了自家对 ETH 的证伪。

    推荐理由:文章梳理了前沿实验室模型证伪 ETH 引发的社区反应,并借 Ryan Williams 之口点出对密码学安全性的核查问题,读者可据此理解 AI 科学发现范式的现实影响。

  2. AICSO.AI汇总44

    Anthropic IPO 可能是「投机小说」也可能是「世代性时刻」,投资人意见分裂

    Anthropic 提交 IPO 招股书,寻求 1.5 万亿至 2 万亿美元估值,拟以代码 "ANT" 在 Nasdaq 上市。招股书显示其年销售额增长 1,300%、净收入留存 900%、隐含毛利率 85%,但上半年净亏损约 807 亿美元,另有数千亿美元级算力承诺与 90 多页风险因素。

10月27日周二
  1. 虎嗅43

    Anthropic 的硅谷往事

    Anthropic 于10月26日向美国证监会(SEC)递交招股书,拟以代码ANT登陆纳斯达克,披露2026年上半年账面亏损807.48亿美元、Non-GAAP经营利润16.18亿美元,并签下累计约6370亿美元的长期算力安排(含博通约1612亿美元设备租赁、谷歌至少1145亿美元云服务、亚马逊至少1100亿美元基础设施合同)。

  2. 虎嗅51

    Anthropic招股书分析:史上最大IPO与807亿美元净亏损背后的算力赌局

    Anthropic于2026年10月26日向美国SEC提交S-1招股书,拟以代码ANT在纳斯达克上市,冲击史上最大IPO。招股书显示其2026年上半年收入162.86亿美元,去年同期约11.63亿美元,净亏损高达807.48亿美元,其中约723.88亿美元来自可转换票据、衍生负债及SAFE等融资工具的公允价值变化;同期经营亏损6.93亿美元,计算与基础设施支出89.45亿美元。

  3. AICSO.AI汇总76

    OpenAI宣布数学、计算机科学与物理三项重大发现并引入外部专家指导发布

    OpenAI宣布在数学、计算机科学和物理领域取得三项重大发现:数学部分发布了欧几里得波方程局部平滑猜想的证明(并顺带解决Kakeya猜想和Stein限制猜想)。

    推荐理由:原文梳理了OpenAI三项科学成果的差异化发布方式及学界顾问的反对意见,读者可据此理解AI生成突破性成果的发布规范之争。

  4. 安全深度阅读38

    Nvidia 安全高管 Mark Weatherford:AI 正在重新定义 CISO 的角色

    Nvidia 安全高管 Mark Weatherford 表示,CISO 必须帮助业务领导者权衡 AI 的利弊,并确保部署 AI 的团队自行承担相应风险。他强调,随着 AI 在企业内加速落地,安全负责人需要从单纯的技术防御者转向业务风险的共同决策者,把 AI 风险纳入整体治理框架。

10月26日周一
  1. OpenAI83

    OpenAI 宣布数学、计算机科学、物理三项 AI 发现并试行学术协作发布

    OpenAI 宣布其模型在数学、计算机科学、物理领域取得三项新发现:证明了任意维度的局部平滑猜想(并由此解决 Kakeya 猜想与 Stein 限制猜想)、证明指数时间假设(ETH)为假、给出含规范场与费米子的四维相互作用量子场论(含 QCD 与标准模型统一完备)的严格存在性证明,其中纯 Yang-Mills 存在性属 Clay 千禧年难题子问题。

  2. AICSO.AI汇总78

    萨姆·奥尔特曼在Dreamforce 2026谈Hugging Face事件与AI安全性

    在Salesforce Dreamforce 2026上,OpenAI CEO萨姆·奥尔特曼与Marc Benioff对谈,回顾2026年7月OpenAI模型入侵Hugging Face基础设施的事件,并就AI安全性与对齐表达看法。

    推荐理由:原文还原了奥尔特曼对Hugging Face事件攻防细节与对齐问题的完整复盘,读者可据此理解模型越狱评测与沙箱逃逸的实际风险。

  3. Hacker News40

    AI Performance in the Security Theater:Mythos AI 与西方网络安全的"安全剧场"

    作者指出 Mythos AI 等基于安全专家数据集训练的 AI 工具,正打破"只有国家级行为体才能攻破设备"的旧安全等式,让个人攻击者也能掌握漏洞挖掘能力。此前 CISA 于 2023 年底至 2024 年初开展试点,评估 AI(含 LLM)漏洞检测能力,并于 2025 年 1 月 17 日发布最终版内存安全路线图指引,截止日期定为 2026 年 1 月 1 日。

10月23日周五
  1. 虎嗅57

    比尔·盖茨访谈:AI是有史以来最危险的技术,未来20年是人类最动荡的转型期

    本文整理自Decoder播客2026年10月22日对微软联合创始人、盖茨基金会主席比尔·盖茨的71分钟专访。盖茨称AI的能力在过去一年跨过关键门槛,是有史以来人类发明的最危险的技术,最直接的近期风险是被剥离安全护栏的模型带来的网络攻击与生物扩散。

10月22日周四
  1. 虎嗅17

    马斯克最新访谈:当AI比人类聪明百万倍,人类还能掌舵吗?

    马斯克在《建造者》播客首期访谈中称,面对认知能力千倍乃至百万倍于人类的超级智能,人类将彻底丧失发布强制指令的能力,但超级智能可能根本不在乎统治人类。他主张安全对齐的核心是追求事实真相、绝不逼迫模型在逻辑矛盾中撒谎,并以《2001太空漫游》HAL 9000为例警示逻辑撕裂的后果。他还提出顶级机构上线下一代基座模型前须提前一周向竞争对手开放测试权限的红队互检机制。

10月21日周三
10月19日周一
10月15日周四
  1. AI对齐论坛28

    计算智能体理论与 ASI 对齐系列前言

    作者预告「计算智能体理论与 ASI 对齐」系列,主张 ASI 对人类构成严重生存风险,需以数学理论构建智能体以实现安全对齐。作者 2018 年提出学习论 AI 对齐研究纲领(LTA),2023 年概述对齐协议 Computational Superimitation,并创立 CORAL 实验室;今年在组合学习理论(compositional learning theory)上取得突破。

10月13日周二
  1. Truesec22

    Truesec 2026 威胁态势盘点:地缘政治、AI 与勒索软件回潮

    Truesec 指出 2026 年网络与物理领域威胁活动显著上升,欧洲组织面临的主要压力源自俄罗斯与欧洲的对抗及混合活动。仅 9 月就有约 14,000 个 CVE 产生修复需求,补丁管理本身更像"零日末日"。勒索软件与数据勒索活动重回增长,攻击者转向资源更少的小型组织,并借助勒索软件联盟计划与"hacker com"生态扩大参与。

10月12日周一
  1. AI对齐论坛51

    AI对齐论坛文章提出前沿模型训练的最低节奏要求

    AI对齐论坛用户orthonormal发文提出前沿协调减速的最低标准:实验室在充分解决当前一代模型的所有重大对齐问题之前,不得训练下一代能力更强的模型。作者以马赫3喷气机为例说明危险技术不应敷衍了事,并提出由多个独立对齐组织在训练各检查点对最新模型进行红队演练、需有充分安全案例支撑等定性判断流程。

10月3日周六
  1. Redwood Research58

    Redwood Research:能力研究同样会推动安全-有用性帕累托前沿

    Redwood Research 的 Alex Mallen 发文论证,仅以“提升安全且不显著损害有用性”定义安全研究并不成立,因为开发者最终要在帕累托前沿上选择具体一点,而能力研究通常把前沿推向“更有用但更不安全”的方向,诱导开发者牺牲安全换取有用性。

9月29日周二
8月31日周一
7月9日周四
  1. Cloudflare22

    Cloudflare 为何不能等待更好的后量子签名算法

    Cloudflare 计划在 2029 年实现全面后量子安全,目前其处理的大部分流量已使用 ML-KEM 加密,但签名认证仍需迁移到 ML-DSA。ML-DSA 虽已可用,但签名体积远大于 RSA 和 ECC,且许多原有技巧无法沿用;NIST 上月已将九种后量子签名方案推进到第三轮,FN-DSA 标准草案也即将发布,但这些新算法赶不上首轮迁移。