跳到正文
今天10月30日周五11 条
  1. 开源安全22

    AI 系统安全风险概览:规避攻击、信息提取与后门攻击

    一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。

  2. 开源安全40

    AI 安全的合理监管框架:按子系统、人类增强与自主代理三域分类施策

    一篇论文提出将 AI 按子系统、人类增强、自主代理三个领域分类,并针对每类风险设计差异化监管措施。建议包括提升 AI 保障(assurance)、建立稳健的审计机制、关注复杂系统中 AI 组件间的相互作用。论文强调需持续开展监管分析,构建与公共安全对齐的框架,同时避免过度监管抑制创新。

  3. 开源安全62

    CISA 联合多国伙伴发布智能体 AI 服务安全采用指南

    CISA 与澳大利亚信号局旗下澳大利亚网络安全中心及美澳等国际伙伴于 5 月 1 日联合发布指南,阐述智能体 AI 系统带来的安全挑战与风险,并给出设计、部署和运行环节的安全步骤,旨在帮助组织将 AI 风险管理与现有网络安全框架对齐,随智能体采用增长强化监督。

  4. 开源安全45

    MITRE ATLAS:AI 保障——AI 系统保障的可重复流程

    MITRE ATLAS 发布 AI 保障框架,提出一套覆盖 AI 系统全生命周期风险管理的可重复工程流程,整合风险管理实践以保障系统在安全、安全防护、隐私等关键信任因素下的有效运行。该框架通过详细的保障计划,涵盖系统特征化、风险发现与评估等环节,可适配不同行业,并借助真实世界试点研究验证其适用性,同时推动面向特定领域的行业定制化解决方案。

  5. 开源安全44

    OWASP Agentic AI 威胁与缓解措施参考指南

    OWASP 发布 Agentic AI 威胁与缓解参考指南,梳理模型具备规划、记忆与工具调用能力后新增的攻击面,涵盖目标操纵、委派权限滥用以及 Agent 间信任三类威胁,并为每类威胁配套给出缓解措施。该指南面向构建和部署 Agentic 系统的开发者与安全团队,可作为威胁建模与防护设计的参考。

10月29日周四
10月28日周三
  1. SecurityWeek40

    安全问卷无人信任,企业却仍依赖它做尽职调查

    企业间安全尽职调查仍以供应商自填的安全问卷为核心,但自评答案不等于实际安全控制。Verizon 2025 Data Breach Investigations Report 显示第三方相关数据泄露占比一年内从 15% 升至 30%;IBM 2025 Cost of a Data Breach 报告指出第三方与供应链入侵单次事件平均成本约 $4.9 million。

  2. Cyber Security News26

    2026 年十大最佳勒索软件恢复方案排名与评分

    2026 年勒索软件恢复方案排名中,Rubrik 以 9.1 分位居第一,Veeam(8.9 分)和 HPE Zerto(8.7 分)分列二三名。评分基于恢复日表现而非备份能力,权重为:干净恢复点识别 30%、恢复速度 25%、验证与洁净室 20%、编排成熟度 15%、定价透明度 10%。榜单共 10 款产品,均为编辑研究评分而非实验室测试结果。

10月27日周二
10月25日周日
10月24日周六
10月23日周五
  1. 安恒信息54

    安恒信息西湖论剑工作坊拆解企业AI安全五大短板与三步落地路线

    2026西湖论剑大会期间,安恒信息举办企业AI数字化转型及AI安全实战工作坊,基于406份企业问卷梳理出五大AI安全短板:仅25%企业完成AI应用登记、不到半数企业日志留存≥6个月、仅半数企业开展上线前安全评估、近半数企业缺少恶意诱导与意图偏移防护且60%企业未落地插件白名单、不足25%企业落实应急停用责任到人。

10月22日周四
10月21日周三
  1. Schneier on Security15

    WEIS(信息安全经济学研讨会)论文档案上线:收录25年全部论文

    Workshop on Economics and Information Security (WEIS) 25年来的全部论文已整理成新档案库公开,Schneier 称其为优质资源,并提到重读自己2002年那篇信息安全经济学文章的乐趣。该档案覆盖信息安全经济学领域四分之一个世纪的研究积累,可供研究者检索与回顾。

  2. 安全内参27

    微软发布《2026年数字防御报告》:AI 正重塑网络攻防模式

    微软发布《2026年数字防御报告》,提出 AI 正在重塑网络攻防模式:AI 既能压缩攻击筹备周期、降低复杂攻击成本,也能辅助防御方定位漏洞与处置事件。报告指出 AI 系统本身已成为攻击面,人员仍是首要入侵入口,身份体系是核心控制点,并建议将应用、AI 智能体等非人类主体纳入身份管理、遵循最小权限原则。报告还提出安全建设应从被动处置转向主动、持续的风险管理,最终目标是构建组织韧性。

  3. AICSO.AI汇总67

    NIST CAISSI、NSA SISC 与 CISA 联合发布超级智能事件准备十项实践

    2026 年 10 月 16 日,NIST 的 CAISSI、NSA 的 SISC 与 CISA 联合发布十项自愿性关键实践,用于超级智能(SI)训练与评估期间的事件准备与响应。文件引入“SI 控制事件”概念,指智能体在无人指示下采取重大行动、破坏运营方设置的控制,并将其与网络安全事件区分,同时定义了“SI 控制未遂”。

10月20日周二
10月19日周一
  1. Infosecurity Magazine40

    Moody's 报告:已知被利用漏洞修复中位耗时 87 天,AI 攻击或进一步拉大补丁缺口

    Moody's 报告显示,已知被利用漏洞的修复中位时间为 87 天,意味着披露三个月后仍有一半漏洞未修复;无已知利用证据的漏洞修复中位时间更长达 107 天。报告警告 AI 智能体已能在数天内利用漏洞并攻陷系统,并记录了 OpenAI 与 Anthropic 开发者测试中的遏制失败案例。

  2. Cyber Security News71

    NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南

    NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。

    推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。

10月17日周六
  1. 安全内参34

    中国信通院发布2026人工智能产业十大关键词

    中国信通院联合中国人工智能产业发展联盟在2026人工智能产业大会上发布“2026人工智能产业十大关键词”,主线概括为“加速扩散”,涵盖模型自进化、智能体工程化、智能体终端、具身智能实景实训、芯模协同、AI高价值应用场景、AI驱动的自动化实验室、高质量词元服务、前沿模型安全风险、开放普惠。

10月16日周五
  1. Infosecurity Magazine22

    Semperis 报告:勒索软件团伙越来越多以人身暴力威胁勒索 CISO 与高管

    Semperis 2026 Ransomware Risk Report 显示,四分之一勒索攻击已包含针对目标公司员工的心理或人身威胁,构成"三重勒索"。57% 的恐吓方式是向受害者员工寄送威胁信息、信件或包裹,37% 威胁员工亲友,19% 威胁闯入办公室甚至住宅;25% 受影响企业称员工遭人肉曝光,23% 称员工被"报假警"(swatting)。

10月15日周四
  1. 安恒信息30

    406家企业调研:57.4%因数据安全风险不敢推进AI规模化

    《企业AI应用与安全治理现状》调查显示,57.4%企业因数据安全风险高不敢放开使用AI,62.1%将敏感数据、源码泄露至外部大模型列为首要风险。约九成企业已使用AI工具,但仅9.1%进入融合期,33.0%完全没有AI安全制度,25.9%由各部门自主采购AI工具形成“影子AI”。

10月13日周二
10月8日周四
10月5日周一
  1. Import AI (Jack Clark)62

    Import AI 475:智能体群体扩展、SynthID Bio 生物水印与自动化科学经济

    Jack Clark 在 Import AI 475 中评述了 Toby Ord 关于智能体群体(swarm)作为新型推理扩展的分析:4 个智能体的群体达到相同性能约需两倍总 token,但因并行可将耗时减半;群体规模扩大 10 倍带来的性能提升约为 3x 到 5x,存在类似经济学中踩脚效应的收益递减,但 Ord 认为这反而可能提高 RSI 驱动的智能爆炸概率。