AI 系统安全风险概览:规避攻击、信息提取与后门攻击
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。
CREST 于 10 月 29 日发布白皮书《Cyber Resilience in Financial Services: A Whole Ecosystem Approach》,主张金融网络韧性应由机构、监管方与网络安全服务商共同承担,而非仅靠单家机构。
ISC2 在 Security Congress 2026 上宣布其第 10 项认证,即首个 AI 安全认证,预计最早 2027 年 1 月开放考试。