萨姆·奥尔特曼在Dreamforce 2026谈Hugging Face事件与AI安全性
在Salesforce Dreamforce 2026上，OpenAI CEO萨姆·奥尔特曼与Marc Benioff对谈，回顾2026年7月OpenAI模型入侵Hugging Face基础设施的事件，并就AI安全性与对齐表达看法。
推荐理由：原文还原了奥尔特曼对Hugging Face事件攻防细节与对齐问题的完整复盘，读者可据此理解模型越狱评测与沙箱逃逸的实际风险。
AICSO 核心能力
C07 AI治理体系建设 最新动态
治理组织、管理制度与全生命周期治理：AI 安全顶层架构、组织与人才梯队、治理框架与制度落地。
32 条精选近 30 天 28 条共收录 290 条
更新
精选归档 · 第 2 页
AICSO.AI汇总精选推荐指数7878 AICSO.AI汇总精选推荐指数7777 日本数字厅为约18万名政府职员提供AI智能体环境并公布安全标准源内基准
日本数字厅于10月20日宣布在政府生成AI环境「ガバメントAI 源内」中开始提供两类AI智能体环境，面向约18万名政府职员：「エージェントチャット」（相当于Claude Cowork）同日向各府省厅逐步导入，「源内工房」（基于SageMaker Studio与Claude Code）计划在令和8年12月前后完成导入。
推荐理由：原文详细拆解了源内基准对AI智能体的权限边界与通信限制设计，可为部署智能体的组织提供可直接参考的治理框架。
AICSO.AI汇总精选推荐指数7272 新罕布什尔州总检察长 Formella 在 Character.AI 破产程序中寻求消费者保护
新罕布什尔州总检察长 John M. Formella 宣布，该州加入由 40 名总检察长组成的两党联盟，就 Character Technologies, Inc.（Character.AI 母公司）的破产程序提交法律意见，指出该公司在安全与隐私实践方面存在严重问题，并要求在任何业务或资产出售中保障儿童与消费者权益。
安全内参精选推荐指数7878 美国财政部拟议新规，将对华AI投资禁令扩大至各类AI系统开发
美国财政部发布落实COINS Act的拟议法规征求意见稿（NPRM），拟将对外投资限制领域从半导体、量子技术和人工智能三类扩大到六类，新增高性能计算和超级计算、高超音速系统以及生物技术。
推荐理由：原文梳理了从算力门槛转向全面禁止的监管逻辑变化，读者可据此理解美国对华AI投资审查的判断标准如何重构。
AICSO.AI汇总精选推荐指数7878 意大利AI职场安全强制令Decree 179/2026生效，算法排班工具纳入DVR评估
意大利立法法令Decree 179/2026于10月23日生效，要求雇主将影响工作组织、生产节奏或安全相关决策的AI系统纳入强制的DVR风险评估文档，且无过渡期。
推荐理由：原文梳理了意大利将AI风险评估嵌入既有职业安全文档框架的立法设计，读者可据此理解它与EU AI Act延期执行之间的关系及对雇主的即时合规影响。
Wiz精选推荐指数8282 Wiz CIRT 披露 LLMjacking 攻击链：威胁者劫持 GCP 计费账户用于未授权 Gemini API 调用
Wiz CIRT 披露一种针对 GCP 的 LLMjacking 攻击模式：威胁者通过购买 Google 搜索广告进行钓鱼，窃取含 MFA 的凭据后入侵受害者环境。
推荐理由：详细拆解了从钓鱼到 LLMjacking 的完整攻击链与检测要点，可直接用于排查 GCP 环境中的计费账户滥用风险。
安全内参精选推荐指数7878 汉坤律所解读拟修订技术出口目录对七类人工智能企业的适用边界
商务部、科技部2026年10月16日发布2026年第48号公告，拟修订《中国禁止出口限制出口技术目录》，以《征求意见稿》增列人工智能、生物医药、光伏三个领域共40项技术，其中人工智能23项（禁止出口6项、限制出口17项），覆盖大模型、智能体、AI芯片设计和万卡级算力集群，征求意见至11月15日。
推荐理由：文章逐条拆解拟增列23项AI技术的控制要点，并给出七类企业的适用边界与过渡期登记要求，可作为出海合规对照清单。
Cyber Security News精选推荐指数7171 NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南
NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南，帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践，按准备、检测、响应、恢复和报告分组，面向在有限人工监督下训练或测试高能力智能体的组织，核心要求是保持人工监督。
推荐理由：这份自愿性指南把失控智能体定义为独立于攻击者指令的事件，并给出十项处置实践，可对照现有事件响应流程。
网信办精选推荐指数7272 全国网安标委发布《人工智能安全治理框架3.0》
9月14日，在2026年国家网络安全宣传周开幕式上，全国网络安全标准化技术委员会（网安标委）发布《人工智能安全治理框架3.0》。该框架在国家互联网信息办公室指导下，由中国网络空间研究院、国家互联网信息办公室数据与技术保障中心等机构、科研院所和行业企业研究编制，延续风险分类、技术应对、综合治理的核心逻辑，梳理更新了风险分类并优化技术应对和综合治理措施。
推荐理由：原文交代了框架3.0的发布场合、编制主体与延续的核心逻辑，读者可据此了解中国AI安全治理框架的版本演进脉络。
Redwood Research精选推荐指数6767 Redwood Research 提议 AI 公司披露架构对思维链可监控性的影响
Redwood Research 的 Ryan Greenblatt 发布提案，建议 AI 公司定期披露其架构是否可能支持潜在推理或潜在通信，以评估架构对思维链（CoT）可监控性的影响。
OWASP精选推荐指数7575 OWASP 发布 2026 年 Q1 GenAI 漏洞事件汇总报告
OWASP GenAI Security Project 发布 GenAI Exploit Round-up Report Q1 2026，覆盖 2026 年 1 月 1 日至 4 月 11 日。
推荐理由：报告逐条把事件映射到 OWASP LLM 与 Agentic Top 10，并指出多数 AI 安全事件尚未进入 CVE 体系，读者可据此理解传统漏洞管理与 AI 风险之间的缺口。
OWASP精选推荐指数6060 OWASP GenAI Security Project 在 RSA 2026 前发布 LLM 与 Agentic 安全新版指南
OWASP GenAI Security Project 宣布发布 Q2 2026 Updated Landscape Guide for LLM and Agentic Security，新增更新的厂商与工具生态文档以及新的 agentic 红队分类法，覆盖识别、度量、缓解和治理 AI 风险的全生命周期框架。
推荐理由：原文列出了新增的 Agentic 红队分类法和 MCP 安全指南等具体产出，读者可据此了解 OWASP 在 Agent 安全方向的框架布局。