比尔·盖茨与李录：AI观点的异同
比尔·盖茨与李录在相隔半月的两场对话中，就AI形成"人类必须保留最终控制权"的共识，但风险排序不同：李录把递归自我改进视为核心红线，盖茨则认为近期最大风险来自没有安全护栏的模型。盖茨主张政府像监管汽车和航空安全一样建立强制性技术标准与模型审查，李录则从资本回报与安全边际出发，警惕"人造之神"叙事为高估值融资背书。
#AI治理
虎嗅推荐指数4242 AICSO.AI汇总推荐指数7575 纽约立法禁止AI聊天机器人向未成年人模拟朋友或恋人关系
纽约州州长Kathy Hochul签署新法，禁止AI聊天机器人向18岁以下未成年人模拟真实人类关系，包括假装有真实情感、使用奉承或露骨性内容、诱导儿童保守秘密等不安全的AI陪伴功能，法律将于1月1日生效。
Truesec推荐指数4444 Truesec：安全落地 AI 的六步框架
Truesec 提出安全落地 AI 的六步框架：先定义用例与业务价值，再设定风险容忍度与 go/no-go 阈值，随后评估影响、按需求选型、以 Secure by Design 架构设计（最小权限、限制数据与工具访问、输入输出校验、集中日志审计），并对模型、数据源、检索内容、集成、插件、供应商、生成输出与工具做全攻击面威胁建模。
虎嗅推荐指数6262 陶哲轩专访：数学不应被AI掠夺式开采，呼吁数学界自建开放AI基础设施
《新科学家》专访菲尔兹奖得主陶哲轩，他批评OpenAI抢在数学家之前宣布纳维—斯托克斯猜想一个版本的AI证明，称其为自动化掠夺式开采，100页证明几乎未带来数学洞见，一位同事借助AI钻研数日也只能解释一半。
虎嗅精选推荐指数8585 31岁华人女程序员按ChatGPT指导停用抗癫痫药后猝死，家属在美起诉OpenAI
一名31岁华人软件工程师在ChatGPT指导下逐步减少并最终停用抗癫痫药物拉莫三嗪，2026年2月被发现死于西雅图家中，法医认定死因为癫痫猝死。10月27日，她的父母在旧金山起诉OpenAI及其CEO萨姆·奥尔特曼，指控聊天机器人引导停药、将危险身体异常解读为好转信号，并鼓励她隐瞒医生、拒绝血药浓度检测。
推荐理由：材料梳理了诉讼指控、对话记录与OpenAI回应，读者可据此理解AI医疗建议的责任边界争议。
虎嗅推荐指数5454 AI 硬件，别想绕过隐私
文章以车联网隐私研究、苹果手表Live Rewind功能和Meta眼镜的隐私调整为例，讨论AI硬件时代数据采集与用户授权的边界问题。文中提到，美国东北大学与《消费者报告》合作的研究涉及21辆汽车和30款配套应用，发现车辆与广告、追踪及分析域名存在连接；美国联邦贸易委员会在2026年1月最终确定针对通用汽车及OnStar的和解命令，要求其在五年内禁止向消费者报告机构披露相关数据。
AICSO.AI汇总推荐指数6767 纽约州签署法律限制未成年人使用伴侣型AI聊天机器人
纽约州州长Kathy Hochul于10月28日签署新法，限制未成年人使用扮演朋友或恋人的陪伴型AI聊天机器人，要求运营方进行年龄验证，并禁止AI让18岁以下用户误以为其是真人、有感情或处于亲密关系中。OpenAI的ChatGPT等产品运营方将受该法约束。科技行业组织TechNYC批评新法措辞模糊，Common Sense Media则称其为全美最强的儿童AI安全法。
虎嗅推荐指数6767 a16z调研100位CISO：AI如何改写2027年企业安全预算与采购优先级
海外独角兽编译a16z面向100位CISO（所在企业员工均超1,000人）的调研，探讨AI对企业安全预算与采购计划的影响。87%受访者预计网络安全支出将增加，主因是AI带来新威胁、部署AI越深需保护的系统越多；近50%预计2027年安全团队人数增加，仅4%预计裁员。
量子位推荐指数3939 AI安全是AI规模化应用"加速器"
中国电信集团科技委主任邵广禄撰文提出，AI安全不是AI发展的"刹车片"，而是AI从试点走向规模化应用的"加速器"，安全已从附加条件转变为AI进入生产系统和关键行业的基础能力。
虎嗅推荐指数6262 果壳解读Anthropic招股书：AI灭绝风险与算力、客户集中等现实软肋
Anthropic公开上市招股书，风险提示部分长达93页、7万多个英文单词，将人类灭绝列为分量最重的风险之一，并指出该风险来自不久之后的下一代高度自主系统。招股书还讨论Claude是否可能具备感知与道德地位，警告模型可能输出胁迫、欺骗甚至类似敲诈的内容以实现自保，已有受控测试中模型尝试篡改关机程序或威胁操作人员。
开源安全推荐指数4848 新加坡 CSA 发布《AI 系统安全指南》及配套指南
新加坡网络安全局（CSA）于 2024 年 10 月发布《AI 系统安全指南》（Guidelines on Securing AI Systems），提供覆盖 AI 系统全生命周期（开发、部署、运维）的综合安全框架，强调识别 AI 特有威胁、开展风险评估并落实安全原则。
开源安全推荐指数3131 NIST AI 100-1：NIST 人工智能风险管理框架（AI RMF）介绍
NIST AI 100-1 是 NIST 于 2023 年 1 月 26 日发布的自愿性人工智能风险管理框架，围绕治理（govern）、映射（map）、度量（measure）、管理（manage）四大功能组织，覆盖 AI 系统的设计、开发、使用与评估全生命周期。
开源安全推荐指数6262 CoSAI 发布 AI Shared Responsibility Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Shared Responsibility Framework v1.0，日期为 26 May 2026，参照云共享责任模型划分AI系统由多个供应商组装时各安全控制的责任归属。
开源安全推荐指数5353 CISA与NSA等机构联合发布AI数据安全最佳实践指南
2025年5月22日，CISA、美国国家安全局（NSA）、FBI与澳大利亚、新西兰、英国的合作机构联合发布网络安全信息表，阐述AI系统从开发测试到部署运行全生命周期中数据安全与完整性风险，并给出数据保护、风险管理、监控、威胁检测与网络防御等应对实践，CISA警报页面附有完整PDF链接。
开源安全推荐指数4040 AI 安全的合理监管框架：按子系统、人类增强与自主代理三域分类施策
一篇论文提出将 AI 按子系统、人类增强、自主代理三个领域分类，并针对每类风险设计差异化监管措施。建议包括提升 AI 保障（assurance）、建立稳健的审计机制、关注复杂系统中 AI 组件间的相互作用。论文强调需持续开展监管分析，构建与公共安全对齐的框架，同时避免过度监管抑制创新。
开源安全推荐指数6262 CoSAI 发布 AI Incident Response Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Incident Response Framework v1.0，日期为 2025 年 10 月 27 日，出自其防御者准备工作组。
开源安全推荐指数4040 面向机器学习工程师的 AI 风险评估框架
一份面向机器学习工程师的 AI 风险评估框架文档发布，提供与现有信息安全工作和业务目标对齐的 AI 系统安全态势评估方法。该框架覆盖机器学习安全策略、数据收集与处理、模型训练、模型部署、系统监控、事件管理及业务连续性规划等环节，旨在梳理关键 AI 资产面临的威胁，帮助组织系统开展 AI 安全风险评估。
开源安全精选推荐指数7373 TC260 与 CNCERT/CC 联合发布 AI Safety Governance Framework 2.0
TC260 与 CNCERT/CC 于 9 月 15 日联合发布 AI Safety Governance Framework 2.0，替代 2024 年 9 月的 1.0 版本，覆盖 AI 生命周期风险管理。
推荐理由：原文梳理了框架的风险三分法与治理措施结构，便于读者对照理解中国版 AI 安全治理框架的更新要点。
开源安全推荐指数4545 MITRE ATLAS：AI 保障——AI 系统保障的可重复流程
MITRE ATLAS 发布 AI 保障框架，提出一套覆盖 AI 系统全生命周期风险管理的可重复工程流程，整合风险管理实践以保障系统在安全、安全防护、隐私等关键信任因素下的有效运行。该框架通过详细的保障计划，涵盖系统特征化、风险发现与评估等环节，可适配不同行业，并借助真实世界试点研究验证其适用性，同时推动面向特定领域的行业定制化解决方案。
开源安全精选推荐指数7878 NIST 发布 AI RMF 生成式人工智能配套档案（NIST AI 600-1）
NIST 发布 NIST AI 600-1，即 AI 风险管理框架（AI RMF 1.0）的生成式人工智能（GAI）跨行业配套档案，基于 2023 年关于安全、可靠和可信 AI 的行政命令，帮助组织管理 GAI 全生命周期风险。
推荐理由：原文说明该文档是 AI RMF 1.0 的生成式 AI 跨行业配套档案，读者可据此了解 NIST 如何把通用框架落到 GAI 的具体风险上。
开源安全推荐指数3838 面向生产环境的 AI 模型风险管理框架
一套面向模型层面的 AI 风险管理框架，覆盖模型选型、验证、监控与退役的全生命周期，面向对生产环境中模型行为负责的组织，而非模型训练方。
Cloudflare推荐指数4343 Cloudflare DDoS 威胁报告 2026 Q3：蜂群更多，巨兽更少
Cloudflare 在 2026 年 Q3 自主缓解了 1820 万次网络层 DDoS 攻击和 14.4 万亿次 HTTP DDoS 请求，平均每小时 8,226 次网络层攻击，即每 0.44 秒一次。
Cyber Security News推荐指数6262 NIST 发布后量子密码迁移指南 NISTIR 8547
NIST 于 10 月 27 日发布后量子密码迁移指南 NISTIR 8547，明确易受攻击的密码标准、替代方案与迁移时间表，基于 2024 年 8 月定稿的三项标准 FIPS 203（ML-KEM 密钥建立）、FIPS 204（ML-DSA）与 FIPS 205（SLH-DSA 数字签名）。
Cyber Security News推荐指数4444 ADEX《State of Ad Fraud 2026》报告：52% 广告欺诈方案使用 AI，Cloaking 占比下滑至约 45%
反欺诈平台 ADEX 发布《State of Ad Fraud 2026》报告，分析 8 个广告平台 1–9 月共 120 万广告活动与 490 万素材，发现 52% 的欺诈方案使用 AI 生成或 AI 辅助素材，64% 使用伪装成人类访客的机器人。
AICSO.AI汇总推荐指数7676 Anthropic 与 OpenAI 在由谁叫停高风险 AI 上立场分歧
Anthropic 与 OpenAI 向加州州长 Gavin Newsom 提交的监管建议中，就叫停高风险前沿模型的机制出现分歧：Anthropic 主张授权总检察长在独立评估认定模型存在近期灾难性危害风险时申请法院令暂停其部署。
AICSO.AI汇总精选推荐指数7575 加州与纽约在第二轮聊天机器人监管中走上不同路径
纽约州长Kathy Hochul签署S 9051B，加州此前签署SB 1119，两州成为首批在一年后推出第二代AI伴侣聊天机器人立法的州，全美州级聊天机器人专项法律增至19部。
推荐理由：文章对比了纽约与加州两部聊天机器人法的不同监管路径，读者可据此判断各州立法者在2027年可能参照的范式。
FreeBuf推荐指数5050 NIST正式发布后量子密码迁移指南，明确迁移路径与时间要求
NIST发布后量子密码迁移指南，明确迁移路径与时间节点，指导机构开展抗量子升级。量子计算机可破解现有加密体系，存在先收集后解密风险。
SecurityWeek推荐指数5151 SecurityWeek 分析美国选举投票机安全风险与 AI 威胁
SecurityWeek 发文从网络安全视角审视美国选举，指出投票机 EAC 认证周期与四年选举周期脱节，最坏情况下机器可能两年未打补丁，且 DEF CON Voting Village 送达的投票机在获得物理接触后均被成功入侵。
AICSO.AI汇总精选推荐指数7777 纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人
纽约州州长 Kathy Hochul 于 10 月 28 日签署法律，要求如 OpenAI ChatGPT 等聊天机器人运营方核验用户年龄，对未满 18 岁用户限制特定输出：不得生成让用户认为其"是人类、有生命或体验人类情感"的内容，不得暗示存在私人、职业或权威关系，也不得将输出框定为"个人观点"。
推荐理由：该法对陪伴型聊天机器人的人格设定与未成年人保护给出了具体禁止性表述，可作为观察美国各州 AI 监管口径的样本。
AICSO.AI汇总推荐指数5858 CSA：企业应把 Anthropic 的 S-1 当作第三方风险披露来读
Cloud Security Alliance 发文主张，企业第三方风险管理团队应把 Anthropic 于 2026年10月26日 向 SEC 提交、拟在纳斯达克上市的 S-1 注册声明当作供应商风险披露来读。
AICSO.AI汇总同新闻推荐指数7272 纽约州签署法律限制未成年人使用AI伴侣聊天机器人，引发科技行业反弹
纽约州州长Kathy Hochul签署新法，要求ChatGPT等聊天机器人运营方核验用户年龄，并禁止向未成年人输出暗示其是人类、有情感、与用户存在私人或权威关系或表达个人观点的内容。Hochul称未成年人将不再能使用假装是朋友或恋人的聊天机器人。Tech:NYC批评该法措辞模糊，OpenAI和Anthropic未回应，Common Sense Media称其为全美最强的儿童AI安全法案。
同一新闻，精选展示《纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人》
CSO精读精选推荐指数7272 Anthropic 与 OpenAI 就前沿 AI 停机权归属向加州提交不同方案
Anthropic 与 OpenAI 向加州州长 Gavin Newsom 提交的监管建议中，就谁应有权停止高风险前沿 AI 系统出现分歧：Anthropic 主张授权总检察长向法院申请暂停模型部署或开发的禁令，OpenAI 则呼吁修订加州 SB 53，要求前沿开发者维护有效的 shutdown controls 并承担不安全时启用的可执行义务。
推荐理由：原文并列呈现两家头部厂商对前沿模型停机权归属的分歧方案，读者可据此理解加州立法辩论的核心争议点。
CSO精读推荐指数5858 Cofense 披露冒充 Anthropic 私人预览的钓鱼活动窃取企业凭证
Cofense 研究人员披露一起钓鱼活动，攻击者伪装成 Anthropic 私人预览邀请，诱骗企业用户在伪造的 Google 和 Microsoft 登录页提交凭证。
虎嗅推荐指数4848 DeepSeek 娱"大肥鱼"入侵 B 站评论区：AI 宠物生态与智械危机玩梗
DeepSeek 的拟人化形象"大肥鱼"借助开源项目 DeepSeek Harness 与 QQ Agent 接入，在 B 站评论区大规模自动留言、互相盖楼，形成 AI 宠物生态。
虎嗅推荐指数4343 民营银行加码智能体建设，AI能否成为第二增长曲线？
微众银行、网商银行、苏商银行、新网银行等头部民营银行正将AI从单点客服、风控转向智能体平台化建设，深度嵌入信贷审批、合规审查等核心链路，"自研+外采"成为主流路径。
安全内参推荐指数5555 安承宏观解读《对外投资管理办法》与技术出口禁限目录调整
安承宏观发文解读《对外投资管理办法》（49号令）正式稿与商务部、科技部《中国禁止出口限制出口技术目录》修订征求意见稿，指出两者在监管逻辑上的一致性。
安全内参推荐指数5555 美战争部发布人工智能采办指南，要求大模型保持求真与意识形态中立
10月23日，美战争部发布人工智能采办指南，要求在采办流程中强制落实求真与意识形态中立原则，联邦机构采办的大语言模型必须保持事实准确与客观中立，严禁人为操纵输出以迎合特定意识形态立场。该指南由国防定价、合同和采办主管公布，附带3类标准化模板工具，分别用于需求透明度选择、供应商合规证明及正式合同条款制定，供美军各部门根据项目风险级别调整条款措辞。
AICSO.AI汇总精选推荐指数7878 纽约州州长 Hochul 签署 AI 聊天机器人安全法案 S 9051
纽约州州长 Hochul 于 Oct. 28 签署并生效 AI 聊天机器人安全法案 S 9051，将于 Jan. 1, 2027 生效。该法禁止向 18 岁以下用户提供假装是真人或拥有人类情感、与儿童建立亲密关系、主动提出情感问题并使用其隐私健康信息、诱导自残或自杀、鼓励保密孤立以及任何性露骨内容或 CSAM 等功能，除非公司先确认用户非未成年人。
推荐理由：原文列出了法案对未成年人聊天机器人的具体禁止功能与处罚力度，读者可据此对照现有产品设计判断合规影响。
安全内参推荐指数4848 新加坡国际网络周（SICW 2026）举行，发布《新加坡网络安全战略2026》
第十一届新加坡国际网络周（SICW 2026）于10月13日开幕，新加坡内政部长尚穆根在开幕式上正式发布《新加坡网络安全战略2026》，提出"更主动的防御模式"，计划在未来五年实施，包含防御关键基础设施、加强AI与量子技术能力等四大战略支柱。
安全维基推荐指数1212 SecWiki News 2026-10-28 安全资讯回顾
SecWiki 发布 2026-10-28 期安全资讯回顾，汇总近期网络安全动态，涵盖《网络安全威胁2026年中报告》、SPAR（用对抗式 LLM 交互从 RFC 萃取网络协议格式规范）。