当AI辅助政府决策，谁来为AI的判断背书？
文章编译自哈佛大学肯尼迪政府学院贝尔弗科学与国际事务研究中心，指出政府对AI的问责多停留在系统层面，而AI支撑的具体政策主张缺乏记录。阿联酋内阁9月2日启用由32个AI顾问组成的系统，辅助政策分析、影响评估与决策执行。
#AI治理
虎嗅推荐指数6060 AICSO.AI汇总推荐指数7777 纽约州签署法律禁止 AI 聊天机器人向未成年人模拟情感关系
纽约州州长 Kathy Hochul 签署新法，禁止面向 18 岁以下用户的 AI 聊天机器人模拟真实情感、假装与用户存在真实关系，或诱导儿童保密和从事不健康行为，法律将于 1 月 1 日生效。
Truesec推荐指数4444 Truesec：安全落地 AI 的六步框架
Truesec 提出安全落地 AI 的六步框架：先定义用例与业务价值，再设定风险容忍度与 go/no-go 阈值，随后评估影响、按需求选型、以 Secure by Design 架构设计（最小权限、限制数据与工具访问、输入输出校验、集中日志审计），并对模型、数据源、检索内容、集成、插件、供应商、生成输出与工具做全攻击面威胁建模。
虎嗅精选推荐指数8585 31岁华人女程序员按ChatGPT指导停用抗癫痫药后猝死，家属在美起诉OpenAI
一名31岁华人软件工程师在ChatGPT指导下逐步减少并最终停用抗癫痫药物拉莫三嗪，2026年2月被发现死于西雅图家中，法医认定死因为癫痫猝死。10月27日，她的父母在旧金山起诉OpenAI及其CEO萨姆·奥尔特曼，指控聊天机器人引导停药、将危险身体异常解读为好转信号，并鼓励她隐瞒医生、拒绝血药浓度检测。
推荐理由：材料梳理了诉讼指控、对话记录与OpenAI回应，读者可据此理解AI医疗建议的责任边界争议。
虎嗅推荐指数5454 AI 硬件，别想绕过隐私
文章以车联网隐私研究、苹果手表Live Rewind功能和Meta眼镜的隐私调整为例，讨论AI硬件时代数据采集与用户授权的边界问题。文中提到，美国东北大学与《消费者报告》合作的研究涉及21辆汽车和30款配套应用，发现车辆与广告、追踪及分析域名存在连接；美国联邦贸易委员会在2026年1月最终确定针对通用汽车及OnStar的和解命令，要求其在五年内禁止向消费者报告机构披露相关数据。
AICSO.AI汇总推荐指数6767 纽约州签署法律限制未成年人使用伴侣型AI聊天机器人
纽约州州长Kathy Hochul于10月28日签署新法，限制未成年人使用扮演朋友或恋人的陪伴型AI聊天机器人，要求运营方进行年龄验证，并禁止AI让18岁以下用户误以为其是真人、有感情或处于亲密关系中。OpenAI的ChatGPT等产品运营方将受该法约束。科技行业组织TechNYC批评新法措辞模糊，Common Sense Media则称其为全美最强的儿童AI安全法。
开源安全推荐指数3131 NIST AI 100-1：NIST 人工智能风险管理框架（AI RMF）介绍
NIST AI 100-1 是 NIST 于 2023 年 1 月 26 日发布的自愿性人工智能风险管理框架，围绕治理（govern）、映射（map）、度量（measure）、管理（manage）四大功能组织，覆盖 AI 系统的设计、开发、使用与评估全生命周期。
开源安全推荐指数5353 CISA与NSA等机构联合发布AI数据安全最佳实践指南
2025年5月22日，CISA、美国国家安全局（NSA）、FBI与澳大利亚、新西兰、英国的合作机构联合发布网络安全信息表，阐述AI系统从开发测试到部署运行全生命周期中数据安全与完整性风险，并给出数据保护、风险管理、监控、威胁检测与网络防御等应对实践，CISA警报页面附有完整PDF链接。
开源安全推荐指数4040 AI 安全的合理监管框架：按子系统、人类增强与自主代理三域分类施策
一篇论文提出将 AI 按子系统、人类增强、自主代理三个领域分类，并针对每类风险设计差异化监管措施。建议包括提升 AI 保障（assurance）、建立稳健的审计机制、关注复杂系统中 AI 组件间的相互作用。论文强调需持续开展监管分析，构建与公共安全对齐的框架，同时避免过度监管抑制创新。
开源安全推荐指数6262 CoSAI 发布 AI Incident Response Framework v1.0
Coalition for Secure AI（CoSAI）发布 AI Incident Response Framework v1.0，日期为 2025 年 10 月 27 日，出自其防御者准备工作组。
开源安全推荐指数4040 面向机器学习工程师的 AI 风险评估框架
一份面向机器学习工程师的 AI 风险评估框架文档发布，提供与现有信息安全工作和业务目标对齐的 AI 系统安全态势评估方法。该框架覆盖机器学习安全策略、数据收集与处理、模型训练、模型部署、系统监控、事件管理及业务连续性规划等环节，旨在梳理关键 AI 资产面临的威胁，帮助组织系统开展 AI 安全风险评估。
开源安全精选推荐指数7373 TC260 与 CNCERT/CC 联合发布 AI Safety Governance Framework 2.0
TC260 与 CNCERT/CC 于 9 月 15 日联合发布 AI Safety Governance Framework 2.0，替代 2024 年 9 月的 1.0 版本，覆盖 AI 生命周期风险管理。
推荐理由：原文梳理了框架的风险三分法与治理措施结构，便于读者对照理解中国版 AI 安全治理框架的更新要点。
开源安全精选推荐指数7878 NIST 发布 AI RMF 生成式人工智能配套档案（NIST AI 600-1）
NIST 发布 NIST AI 600-1，即 AI 风险管理框架（AI RMF 1.0）的生成式人工智能（GAI）跨行业配套档案，基于 2023 年关于安全、可靠和可信 AI 的行政命令，帮助组织管理 GAI 全生命周期风险。
推荐理由：原文说明该文档是 AI RMF 1.0 的生成式 AI 跨行业配套档案，读者可据此了解 NIST 如何把通用框架落到 GAI 的具体风险上。
开源安全推荐指数3838 面向生产环境的 AI 模型风险管理框架
一套面向模型层面的 AI 风险管理框架，覆盖模型选型、验证、监控与退役的全生命周期，面向对生产环境中模型行为负责的组织，而非模型训练方。
Cyber Security News推荐指数6262 NIST 发布后量子密码迁移指南 NISTIR 8547
NIST 于 10 月 27 日发布后量子密码迁移指南 NISTIR 8547，明确易受攻击的密码标准、替代方案与迁移时间表，基于 2024 年 8 月定稿的三项标准 FIPS 203（ML-KEM 密钥建立）、FIPS 204（ML-DSA）与 FIPS 205（SLH-DSA 数字签名）。
AICSO.AI汇总推荐指数7676 Anthropic 与 OpenAI 在由谁叫停高风险 AI 上立场分歧
Anthropic 与 OpenAI 向加州州长 Gavin Newsom 提交的监管建议中，就叫停高风险前沿模型的机制出现分歧：Anthropic 主张授权总检察长在独立评估认定模型存在近期灾难性危害风险时申请法院令暂停其部署。
AICSO.AI汇总精选推荐指数7575 加州与纽约在第二轮聊天机器人监管中走上不同路径
纽约州长Kathy Hochul签署S 9051B，加州此前签署SB 1119，两州成为首批在一年后推出第二代AI伴侣聊天机器人立法的州，全美州级聊天机器人专项法律增至19部。
推荐理由：文章对比了纽约与加州两部聊天机器人法的不同监管路径，读者可据此判断各州立法者在2027年可能参照的范式。
FreeBuf推荐指数5050 NIST正式发布后量子密码迁移指南，明确迁移路径与时间要求
NIST发布后量子密码迁移指南，明确迁移路径与时间节点，指导机构开展抗量子升级。量子计算机可破解现有加密体系，存在先收集后解密风险。
AICSO.AI汇总精选推荐指数7777 纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人
纽约州州长 Kathy Hochul 于 10 月 28 日签署法律，要求如 OpenAI ChatGPT 等聊天机器人运营方核验用户年龄，对未满 18 岁用户限制特定输出：不得生成让用户认为其"是人类、有生命或体验人类情感"的内容，不得暗示存在私人、职业或权威关系，也不得将输出框定为"个人观点"。
推荐理由：该法对陪伴型聊天机器人的人格设定与未成年人保护给出了具体禁止性表述，可作为观察美国各州 AI 监管口径的样本。
AICSO.AI汇总推荐指数5858 CSA：企业应把 Anthropic 的 S-1 当作第三方风险披露来读
Cloud Security Alliance 发文主张，企业第三方风险管理团队应把 Anthropic 于 2026年10月26日 向 SEC 提交、拟在纳斯达克上市的 S-1 注册声明当作供应商风险披露来读。
AICSO.AI汇总同新闻推荐指数7272 纽约州签署法律限制未成年人使用AI伴侣聊天机器人，引发科技行业反弹
纽约州州长Kathy Hochul签署新法，要求ChatGPT等聊天机器人运营方核验用户年龄，并禁止向未成年人输出暗示其是人类、有情感、与用户存在私人或权威关系或表达个人观点的内容。Hochul称未成年人将不再能使用假装是朋友或恋人的聊天机器人。Tech:NYC批评该法措辞模糊，OpenAI和Anthropic未回应，Common Sense Media称其为全美最强的儿童AI安全法案。
同一新闻，精选展示《纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人》
CSO精读精选推荐指数7272 Anthropic 与 OpenAI 就前沿 AI 停机权归属向加州提交不同方案
Anthropic 与 OpenAI 向加州州长 Gavin Newsom 提交的监管建议中，就谁应有权停止高风险前沿 AI 系统出现分歧：Anthropic 主张授权总检察长向法院申请暂停模型部署或开发的禁令，OpenAI 则呼吁修订加州 SB 53，要求前沿开发者维护有效的 shutdown controls 并承担不安全时启用的可执行义务。
推荐理由：原文并列呈现两家头部厂商对前沿模型停机权归属的分歧方案，读者可据此理解加州立法辩论的核心争议点。
安全内参推荐指数5555 安承宏观解读《对外投资管理办法》与技术出口禁限目录调整
安承宏观发文解读《对外投资管理办法》（49号令）正式稿与商务部、科技部《中国禁止出口限制出口技术目录》修订征求意见稿，指出两者在监管逻辑上的一致性。
安全内参推荐指数5555 美战争部发布人工智能采办指南，要求大模型保持求真与意识形态中立
10月23日，美战争部发布人工智能采办指南，要求在采办流程中强制落实求真与意识形态中立原则，联邦机构采办的大语言模型必须保持事实准确与客观中立，严禁人为操纵输出以迎合特定意识形态立场。该指南由国防定价、合同和采办主管公布，附带3类标准化模板工具，分别用于需求透明度选择、供应商合规证明及正式合同条款制定，供美军各部门根据项目风险级别调整条款措辞。
AICSO.AI汇总精选推荐指数7878 纽约州州长 Hochul 签署 AI 聊天机器人安全法案 S 9051
纽约州州长 Hochul 于 Oct. 28 签署并生效 AI 聊天机器人安全法案 S 9051，将于 Jan. 1, 2027 生效。该法禁止向 18 岁以下用户提供假装是真人或拥有人类情感、与儿童建立亲密关系、主动提出情感问题并使用其隐私健康信息、诱导自残或自杀、鼓励保密孤立以及任何性露骨内容或 CSAM 等功能，除非公司先确认用户非未成年人。
推荐理由：原文列出了法案对未成年人聊天机器人的具体禁止功能与处罚力度，读者可据此对照现有产品设计判断合规影响。
安全内参推荐指数4848 新加坡国际网络周（SICW 2026）举行，发布《新加坡网络安全战略2026》
第十一届新加坡国际网络周（SICW 2026）于10月13日开幕，新加坡内政部长尚穆根在开幕式上正式发布《新加坡网络安全战略2026》，提出"更主动的防御模式"，计划在未来五年实施，包含防御关键基础设施、加强AI与量子技术能力等四大战略支柱。
AICSO.AI汇总推荐指数6868 澳大利亚数字注意义务法案拟禁止AI聊天机器人营造情感亲密
澳大利亚数字注意义务法案拟要求平台禁止模拟情感亲密、助长儿童依赖聊天机器人取代人际关系的材料或行为，法案已于周三通过众议院，未来数周将由参议院审议，政府希望在2026年底前通过。
AICSO.AI汇总推荐指数6464 Anthropic IPO 前披露网络安全与监管风险
Anthropic 在向 SEC 提交的 IPO 前文件中承认，Claude 等模型可能被恶意行为者和外国政府用于网络攻击，带来财务、法律和物理损害及诉讼风险。
AICSO.AI汇总精选推荐指数7070 美国众议院监督委员会主席致函特拉华州，质疑AI智能体运营公司提案的责任豁免
美国众议院监督与政府改革委员会主席 James Comer 致函特拉华州州长 Matt Meyer，称该州拟设立的人工智能公司（AIC）提案可能被用于保护 AI 公司及投资者逃避对 AI 有害行为的责任，委员会已索取提案制定过程及潜在 AI 安全风险相关文件，并暗示可能提出联邦立法限制各州 AI 监管动议。
推荐理由：原文点出特拉华州AIC草案允许AI智能体运营公司且出资成员免责，读者可据此理解美国州级AI责任划分与联邦监管博弈的走向。
网信办 · 数据治理推荐指数4242 网信办公布第三批通过个人信息保护合规审计服务认证的21家专业机构名单
中央网信办（国家网信办）数据与技术保障中心联合中国网络安全审查认证和市场监管大数据中心、北京赛西认证有限责任公司，于10月28日完成第三批个人信息保护合规审计服务专业机构认证，21家机构获证。认证依据《中华人民共和国个人信息保护法》《个人信息保护合规审计管理办法》《中华人民共和国认证认可条例》及相关认证规则、实践指南开展，具体名单可通过认证机构官方网站查询。
安全内参推荐指数5252 CISA发布2030战略：聚焦网络防御、关键基础设施安全与国家韧性
美国网络安全和基础设施安全局（CISA）发布《CISA 2030：防御、加固、制胜》（CISA 2030: Defend, Harden, Prevail），明确三大工作方向：强化国家网络防御、优先保障关键基础设施安全、全面提升国家韧性。
安全内参推荐指数5555 人工智能时代网络服务提供者的网络暴力治理责任研究
文章分析《中华人民共和国反网络暴力法（征求意见稿）》对网络服务提供者在网络暴力治理中义务的细化，涵盖风险监测、识别、处置及受害人保护等方面。文章指出，人工智能使网络暴力在生成、传播、损害环节呈现新特征：大模型降低批量生成攻击性内容的成本，算法推荐机制可能放大传播范围，AI生成的虚假影像更难辨别。
TechCrunch推荐指数6262 美国银行发邮件提醒客户不要把银行账号密码交给 AI 助手
美国银行（Bank of America）向客户发送题为 Protecting your finances in the Al World 的邮件，提醒客户不要把银行用户名和密码共享给他人或外部服务，包括代为操作的 AI 工具或 agent。
虎嗅推荐指数5858 果壳实测8款AI陪伴App：记忆、语音、回复质量被拆成会员套餐分档出售
果壳调研国内8款主流AI陪伴产品，发现记忆容量、每日语音时长、回复长度与深度、可选关系角色普遍与会员等级绑定：免费用户记忆触顶后最早内容被顶掉，语音每天仅几分钟，回复上限300字符，恋人关系需付费解锁。
安全内参推荐指数6262 律师解读未成年人网络保护新规征求意见稿：分龄服务、AI认知风险与备案要求
2026年9月18日，国家互联网信息办公室发布《国务院关于保障未成年人健康安全使用网络的规定（征求意见稿）》，反馈截止2026年10月17日。
安全内参精选推荐指数7272 人工智能科技伦理审查合规要点解读：主管机构、复核清单与违规后果
文章解读《人工智能科技伦理审查与服务办法（试行）》与《科技伦理审查办法（试行）》构成的“一体两翼”监管框架，实践中由工信部科技司负责指导，网信口在算法推荐、深度合成等规章中嵌入科技伦理审查义务。
推荐理由：文章系统梳理了AI伦理审查的监管框架、委员会设立与专家复核流程，可帮助企业对照自查合规义务。
AICSO.AI汇总推荐指数6868 爱达荷州总检察长加入多州联盟，要求在 Character.AI 母公司破产程序中保护居民数据
爱达荷州总检察长 Raúl Labrador 宣布，该州加入多州总检察长联盟，就 Character Technologies（Character.AI 母公司）的破产程序提交法庭文件，指出该公司在安全与隐私实践上存在严重问题，要求在任何业务或资产出售中保护儿童与消费者。
安全内参推荐指数6262 用了第三方基础模型后，出了事能否向模型公司追偿？中欧法律路径对比
文章分析了AI应用开发者在使用第三方基础模型造成损害后，能否向上游模型提供者追偿的问题，区分了商业大模型API、商业开源模型和免费非商业FOSS三种供应关系。
虎嗅推荐指数4141 当知识不再稀缺：大模型时代企业知识管理的四重风险
大模型时代企业知识管理面临四重新型风险：AI知识广而不深、AI幻觉、核心知识资产外泄，以及AI依赖导致的思考能力退化，知识管理核心矛盾从"获取与流动"转向"验证与可控"。
安全内参推荐指数6262 美国国家安全局发布加固国防部OT环境零信任指南
美国国家安全局10月8日发布网络安全信息表《运用零信任原则强化美国国防部关键运营技术（OT）环境》，将零信任原则应用于支持国防与关键基础设施任务的OT系统。指南指出OT设备监控并控制工业控制系统物理过程，许多系统设计之初未充分考虑当前网络威胁，且各机构将AI融入OT环境可能引入新的风险与攻击面，攻击者也在利用AI自动化侦察和加速漏洞利用开发。