新加坡 CSA 发布《AI 系统安全指南》及配套指南
新加坡网络安全局（CSA）于 2024 年 10 月发布《AI 系统安全指南》（Guidelines on Securing AI Systems），提供覆盖 AI 系统全生命周期（开发、部署、运维）的综合安全框架，强调识别 AI 特有威胁、开展风险评估并落实安全原则。
#C04 AI基础设施安全
开源安全推荐指数4848 开源安全推荐指数2222 AI 系统安全风险概览：规避攻击、信息提取与后门攻击
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁，重点覆盖规避攻击（evasion attacks）、信息提取（information extraction）与后门攻击（backdoor attacks）三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时，需重视系统设计安全以抵御恶意操纵，并明确其定位为初步指引而非穷尽性文档。
开源安全推荐指数6262 OWASP GenAI 项目收录 Agent Control Standard (ACS) 运行时管控开放标准
OWASP GenAI Security Project 于 1 月 9 日收录了 Agent Control Standard (ACS)，这是一个面向 AI Agent 运行时管控的开放标准，定义 Agent 平台需暴露的 hooks，使独立工具能在动作执行前检查意图并允许、拒绝或修改，附带策略执行与审计追踪。
安全深度阅读推荐指数2222 Marvell、Microsoft 与 Oracle 推动数据中心硬件安全标准化
Marvell、Microsoft 与 Oracle 正合作推动面向云与超大规模数据中心基础设施的 NIST FIPS 140-3 Level 3 集成 HSM 标准化。该工作旨在为数据中心硬件安全建立统一规范。
NIST AI News推荐指数4040 NIST 与 CISA 发布 NIST IR 8587，规范身份与访问令牌防伪造、窃取与滥用
NIST 与 CISA 最终发布 NIST IR 8587《Protecting Tokens and Assertions from Forgery, Theft, and Misuse》，为联邦机构与云服务提供商（CSP）提供令牌保护的实施指南，回应第 14306 号行政令的任务要求，并基于 SP 800-53 的近期更新。