面向机器学习工程师的 AI 风险评估框架
一份面向机器学习工程师的 AI 风险评估框架文档发布,提供与现有信息安全工作和业务目标对齐的 AI 系统安全态势评估方法。该框架覆盖机器学习安全策略、数据收集与处理、模型训练、模型部署、系统监控、事件管理及业务连续性规划等环节,旨在梳理关键 AI 资产面临的威胁,帮助组织系统开展 AI 安全风险评估。
一份面向机器学习工程师的 AI 风险评估框架文档发布,提供与现有信息安全工作和业务目标对齐的 AI 系统安全态势评估方法。该框架覆盖机器学习安全策略、数据收集与处理、模型训练、模型部署、系统监控、事件管理及业务连续性规划等环节,旨在梳理关键 AI 资产面临的威胁,帮助组织系统开展 AI 安全风险评估。
美国国家安全局10月8日发布网络安全信息表《运用零信任原则强化美国国防部关键运营技术(OT)环境》,将零信任原则应用于支持国防与关键基础设施任务的OT系统。指南指出OT设备监控并控制工业控制系统物理过程,许多系统设计之初未充分考虑当前网络威胁,且各机构将AI融入OT环境可能引入新的风险与攻击面,攻击者也在利用AI自动化侦察和加速漏洞利用开发。
OpenAI发布公告,自11月20日起新版使用规则生效,向第三方提供模型直连服务的模型路由器、AI网关须先经OpenAI审查批准,自家App内调用不受影响。孙宇晨创立不到半年的中转站b.ai成为受影响较大的平台之一,其主打区块链登录和匿名支付,与新规要求的合作方调查违规、通过SafetyID区分终端用户存在冲突。
推荐理由:原文梳理了OpenAI新规对中转站生态的多层影响,并结合论文数据解释了中转站降智与安全隐患的成因。
日本数字厅于10月20日宣布在政府生成AI环境「ガバメントAI 源内」中开始提供两类AI智能体环境,面向约18万名政府职员:「エージェントチャット」(相当于Claude Cowork)同日向各府省厅逐步导入,「源内工房」(基于SageMaker Studio与Claude Code)计划在令和8年12月前后完成导入。
推荐理由:原文详细拆解了源内基准对AI智能体的权限边界与通信限制设计,可为部署智能体的组织提供可直接参考的治理框架。