AI 系统安全风险概览:规避攻击、信息提取与后门攻击
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。
一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。
CREST 于 10 月 29 日发布白皮书《Cyber Resilience in Financial Services: A Whole Ecosystem Approach》,主张金融网络韧性应由机构、监管方与网络安全服务商共同承担,而非仅靠单家机构。
Reporters' Notebook 视频系列本期讨论了网络安全意识月(Cybersecurity Awareness Month)的若干趋势与话题,包括用 AI 改进安全培训,以及如何向下一代劳动力普及现代风险与新兴威胁。
Bruce Schneier 借 2014 年 Gulfstream 起飞空难与 Challenger 号 O-ring 事故,指出 IT 安全的根本问题是"偏差正常化"——组织内对违规行为习以为常。
ThreatLocker 撰文解释 ClickFix 社交工程手法:攻击者伪造 CAPTCHA、浏览器错误或文档加载失败,诱导用户打开 Windows Run 对话框或 PowerShell 粘贴执行混淆命令,从而下载信息窃取工具、远程访问工具、加载器或 rootkit。
OffSec 在 Proving Grounds Play(PG Play)推出免费交互式实操实验室,供安全从业者研究和防御 PHP2Shell 漏洞(CVE-2026-109618 和 CVE-2026-109619)。
安全专家 Nathan Hamiel 警告,AI 在安全运营中的深度渗透可能让从业者的核心技术能力退化,如同今天没人再查地图册或背电话号码。他指出,一旦 SecOps 关键技能被 AI 接管并逐步"砍杀",行业将面临技能断层与安全能力空心化的隐患。
ISC2 于 10 月 20 日宣布成立 Cyber-AI Workforce Coalition,由 CEO Scott Beale 牵头,定位为面向全球网络安全从业者的"厂商中立召集方",旨在汇聚 HR 负责人、CISO、标准制定机构与政府代表,共同探讨 AI 如何改变网络安全岗位。
ISC2 在 Security Congress 2026 上宣布其第 10 项认证,即首个 AI 安全认证,预计最早 2027 年 1 月开放考试。
Google Brotli解码器曝出越界写内存损坏漏洞(CVE-2026-111497),影响Node.js、Python的brotli与brotlicffi包、Bun以及配置了解压Brotli的Envoy等软件。
密码管理器通过为每个网站生成独立随机密码(如 20 位字符串)来防御凭据填充(credential stuffing)攻击,用户只需记住主密码。
Truesec 披露一场针对 Microsoft 的凭证钓鱼活动,超过 40,000 家组织收到伪造日历邀请,攻击者使用 33,890 个唯一发件域名和 247,270 个发件地址,通过恶意 .ics 附件或伪造 Teams 会议链接将用户引向 login.microsoft.com 钓鱼页面窃取凭证。
CyberSN 分析显示,2026 年 1 月至 9 月美国网络安全岗位招聘量同比下降 26.4%,JobSpikr 上共发布 235,786 个岗位,为 CyberSN 开展分析四年来最低。
字节跳动大模型团队 Seed 成立新部门 Alignment & Preparedness,原 Responsible AI 团队及部分 Chat 团队成员转入,由严林负责、向 Seed 负责人吴永辉汇报;10 月 14 日启动全球招聘,计划招募 10 名顶尖 AGI 研究员,重点研究模型能力发展带来的新型安全问题。
Fortinet 指出,AI 生成的钓鱼邮件已消除拼写错误、语气不当等传统识别信号,安全防护重点应从识别消息表面瑕疵转向验证请求本身的身份、上下文与意图。FortiGuard Labs 发现,1 月至 5 月间注册的 13,000 多个 FIFA World Cup 2026 相关域名中约 8.8% 被判定为恶意或可疑。
Fortinet 指出 AI 生成内容已让拼写错误、语气生硬等传统钓鱼识别信号失效,防御重点应转向验证请求本身是否合理、发起者身份是否可信。FortiGuard Labs 在 1 月至 5 月间发现超过 13,000 个与 FIFA World Cup 2026 相关的注册域名,其中约 8.8% 被判定为恶意或可疑。
Fortinet 引用 2025 Security Awareness and Training Global Research Report 指出,95% 决策者认为加强安全意识有助减少网络攻击,95% 企业高管在不同程度上支持安全意识培训,安全意识正从合规义务转为降低员工风险的战略投资。
2026年京津冀大学生信息安全网络攻防大赛决赛10月11日在天津市大学软件学院举办,31所高校的88支队伍、339名选手参赛,队伍数量同比增长27.5%,赛事规模创历届新高。决赛设渗透测试、应急响应两个赛项,模拟真实业务环境下的安全攻防与事件处置流程,6所学校的9支队伍获一等奖。奇安信连续三年提供技术支持,承担赛事平台搭建与运行保障。
韩国金融业9月底到10月初遭AI自主网络攻击,最短22秒攻破服务器、单次成本不足1美元、超6万名客户信息泄露,韩国官方证实存在明确AI参与痕迹。2026全球数贸会·西湖论剑大会在杭州举行,安恒信息发布X安全数字员工战队(新增安小虎、安小风、安小云)与安全Token工厂,并提出可信数据空间、数据工厂、Token工厂三层咬合的安全体系。
第十届“强网杯”全国网络安全挑战赛于近日启动网上报名,由河南省委网信办、河南省教育厅、郑州市人民政府、信息工程大学、郑州大学联合主办,在中央网信办、河南省人民政府指导下进行。
Truesec 提出安全文化应成为业务韧性能力,而非仅靠安全意识培训。其援引 Microsoft 2025 Digital Defense Report 称 28% 的入侵始于钓鱼或社会工程,Verizon 2026 DBIR 显示 62% 的入侵涉及人为因素,语音与短信等移动端社会工程模拟成功率中位数比邮件高 40%。
Cloudflare 宣布将欧洲开源模型 EuroLLM(支持 35 种语言,含全部 24 种欧盟官方语言)和瑞士全开放模型 Apertus(超过 1,500 种语言、15 万亿 token 训练)引入 Workers AI,现已开放申请访问。
教育部职业教育发展中心与深信服于2026年9月21日在深圳签署战略合作协议,共同推进区域信息安全运营中心产教融合项目建设。双方将面向全国遴选优质职业院校,建设数智AI安全产教融合人才培养项目及数智AI区域安全运营中心建设项目,探索“安全运营中心+公共实训基地”双平台模式。深信服将为入选院校和教师团队提供专项经费、技术资源支持与落地保障。
NIST 宣布通过 9 项最高 20 万美元的合作协议拨款超 170 万美元,支持 8 个州的教育与社区组织开展 RAMPS 网络安全教育与人才培养项目,由 NICE 计划依据 NICE Workforce Framework for Cybersecurity 协调实施。
Fortinet 在第十一届美洲网络犯罪工作组会议上分享 FortiGuard Labs 的威胁情报实践,主张把情报转化为执法与私营部门协同的打击行动。该会议汇聚 INTERPOL、世界经济论坛、巴拉圭国家警察等公私机构,聚焦勒索软件、钓鱼、AI 滥用与 Cybercrime-as-a-Service。
Fortinet 2026 网络安全技能缺口报告显示,49% 的受访组织在申请增加网络安全人员编制时遭到高层反对,52% 难以留住现有安全人才。71% 的组织认为技能缺口加大了运营风险,56% 称技能短缺导致了数据泄露,52% 的泄露成本超过 100 万美元,29% 的恢复时间达四个月或更久。87% 的组织计划在未来 12 个月内扩充安全团队,但报告建议将内部人才培养与招聘并重。
2026年国家网络安全宣传周将于9月14日至20日在全国范围内统一开展,开幕式、高峰论坛等重要活动在山东省济南市举办,主题为“网络安全为人民,网络安全靠人民——智能时代 网安护航”。
Fortinet 推出免费高中网络安全课程,旨在培养下一代网络防御人才。该课程面向高中阶段开放,以免费形式提供,帮助学生系统学习网络安全知识。
CACTER 反钓鱼演练系统(PhishSim)全新迭代上线,以高仿真模拟钓鱼场景替代传统安全培训,支持模拟虚假链接、恶意附件、伪装二维码三类钓鱼形式,并可仿冒发件人和官方域名,覆盖 APT 攻击与鱼叉式钓鱼场景。