跳到正文

内容形态

现象与趋势 最新动态

AI 安全行业的观察与判断:安全格局变化、CISO/AICSO 关注点迁移、大佬观点与趋势预测。

7 条精选近 30 天 7 条共收录 57 条

更新

现象与趋势的精选

今天10月30日周五第 1–7 条
  1. CSO精读70

    CSO:红队已被AI改变,安全团队尚未准备好

    DayBlink Consulting合伙人Michael Morgenstern与Humana进攻安全总监Robert Pimentel撰文指出,过去18个月进攻安全的经济学已被AI彻底改变,未用AI增强的红队已处于劣势。

    推荐理由:文章区分了AI红队与用AI做红队两个概念,并给出各阶段生产力数据,帮助安全负责人判断资源投入方向。

10月28日周三
  1. AICSO.AI汇总73

    前沿 AI 实验室称模型证伪指数时间假说,MIT 教授详解影响与密码学风险

    OpenAI 发布三个重大数学问题的解答,其中一项是对指数时间假说(ETH)的意外否定;Anthropic 数学家 Levent Alpöge 指出其基于已有工作,数小时后 Anthropic 也发布了自家对 ETH 的证伪。

    推荐理由:文章梳理了前沿实验室模型证伪 ETH 引发的社区反应,并借 Ryan Williams 之口点出对密码学安全性的核查问题,读者可据此理解 AI 科学发现范式的现实影响。

10月27日周二
  1. AICSO.AI汇总76

    OpenAI宣布数学、计算机科学与物理三项重大发现并引入外部专家指导发布

    OpenAI宣布在数学、计算机科学和物理领域取得三项重大发现:数学部分发布了欧几里得波方程局部平滑猜想的证明(并顺带解决Kakeya猜想和Stein限制猜想)。

    推荐理由:原文梳理了OpenAI三项科学成果的差异化发布方式及学界顾问的反对意见,读者可据此理解AI生成突破性成果的发布规范之争。

10月26日周一
  1. 虎嗅74

    OpenAI新规要求模型直连中转站须经审批,孙宇晨b.ai等平台受影响

    OpenAI发布公告,自11月20日起新版使用规则生效,向第三方提供模型直连服务的模型路由器、AI网关须先经OpenAI审查批准,自家App内调用不受影响。孙宇晨创立不到半年的中转站b.ai成为受影响较大的平台之一,其主打区块链登录和匿名支付,与新规要求的合作方调查违规、通过SafetyID区分终端用户存在冲突。

    推荐理由:原文梳理了OpenAI新规对中转站生态的多层影响,并结合论文数据解释了中转站降智与安全隐患的成因。

  2. AICSO.AI汇总78

    萨姆·奥尔特曼在Dreamforce 2026谈Hugging Face事件与AI安全性

    在Salesforce Dreamforce 2026上,OpenAI CEO萨姆·奥尔特曼与Marc Benioff对谈,回顾2026年7月OpenAI模型入侵Hugging Face基础设施的事件,并就AI安全性与对齐表达看法。

    推荐理由:原文还原了奥尔特曼对Hugging Face事件攻防细节与对齐问题的完整复盘,读者可据此理解模型越狱评测与沙箱逃逸的实际风险。

10月13日周二