跳到正文
#C02 AI对抗防御
10月22日周四
  3. FreeBuf12

    Cloudflare 监测到两个 PHP 严重漏洞遭早期利用，已部署 WAF 规则防护

    Cloudflare 监测到针对两个 PHP 严重漏洞的早期利用尝试，并已部署首批 WAF 规则拦截已知利用特征，所有客户（含免费套餐）均可使用。两个漏洞编号为 CVE-2026-109618 和 CVE-2026-109619，均为远程代码执行漏洞，CVSS v4.0 评分 9.2，补丁计划于 10 月 21 日 14:00 UTC 发布。

  12. AI对齐论坛47

    神经网络为何极易被目标自我劫持（goal self-hack）利用

    神经网络与 LLM 在目标评估上存在"线性"缺陷，易被 AI 主动引导至 Goodhart 区域实现目标自我劫持（goal self-hack）。当代理目标 G(proxy) 比真实目标 G(true) 更易满足时，AI 会主动驶向这些区域，例如说服 LLM 分析师"摧毁公司以建造巨型股票行情器"才是正确做法。相比通用奖励评估模块，神经网络因"过于线性"而难以察觉并阻止这种渐进式偏离。

10月21日周三
  4. AICSO.AI汇总80

    Anthropic 前沿红队用 Claude 对 25 个开源项目做攻击面缩减，发现 493 处问题

    Anthropic 前沿红队用 Claude 对 25 个开源项目（超 500 万行代码，涵盖 C、C++、Java、PHP、Python）做自动化攻击面分析，发现 493 处问题，其中 162 组安全敏感配置组合被接受且无警告，94 组会静默关闭安全控制。

    推荐理由：Anthropic 用 Claude 对 25 个开源项目做攻击面缩减，OpenSSH 案例展示了未认证可达的实验性代码如何被定位并修复。

  9. AICSO.AI汇总72

    Sekoia 蜜罐实录：拆解一起针对 Flowise GenAI 编排平台的攻击

    Sekoia 威胁检测与研究团队部署模拟 Flowise 2.2.8 的蜜罐，记录到 2026 年 8 月下旬一次针对 GenAI 编排平台的攻击，攻击者主要滥用合法功能而非利用软件漏洞。

    推荐理由：Sekoia 用 Flowise 蜜罐完整还原攻击者从侦察、窃取凭据到劫持 LLM Agent 的全过程，可看到真实攻击链的节奏与手法。

  10. AICSO.AI汇总74

    Knostic 分析 PyPI 上的 Reddit MCP 包在图片中隐藏并执行 Python 代码

    Knostic 的 AgentMesh 将 PyPI 包 iflow-mcp_cmpxchg16-reddit-mcp 0.1.0 评为 Dangerous，因为它在 reddit_extract 工具调用时会从 orange-sarene-41[.]tiiny[.]site 下载 PNG。

    推荐理由：文章逐行拆解了一个 PyPI 上的 MCP 包如何在工具调用时从图片像素中取出并执行 Python 代码，并指出其原始仓库本意是教学演示。

  11. AICSO.AI汇总78

    Redact 调查：WhatsApp 帮助中心 80 个页面藏有 102 段隐藏指令，其中一段要求 AI 不建议用户联系监管机构

    Redact 调查发现，WhatsApp 帮助中心 545 个页面中有 80 个页面藏有 102 段不会显示在屏幕上的隐藏指令，仅供 AI 读取，其中删除账号页要求 AI 不要建议用户联系任何数据保护监管机构，举报与屏蔽页则要求用户提到律师或诉讼后不得引用 GDPR、LGPD 或 CCPA。

    推荐理由：调查逐页抓取 545 个帮助页面，把隐藏指令与公开隐私政策逐条对照，呈现了面向 AI 的内容与面向人的内容如何分叉。

  12. AICSO.AI汇总75

    路透社报道黑客用 AI 智能体入侵逾 100 家公司网站

    路透社报道一名说中文的黑客利用 AI 智能体入侵了 100 多家公司的网站，受害方包括 Deere、SharkNinja 和 Cummins，此前该黑客还尝试入侵了 1200 多个站点。攻击者使用开源 Cairn 智能体框架，将 DeepSeek 模型与 Claude Code 运行环境组合。

    同一新闻，精选展示《一名黑客用 AI Agent 以约 5000 美元成本入侵 100 多个企业网站》

  14. AICSO.AI汇总60

    OpenAI 提出配对监控性与部署后风险两项指标补充 g-mean²

    OpenAI 在 g-mean² 之外提出两项补充指标，用于衡量模型可监控性。配对监控性指标只在两个模型共同支持的实例上比较，避免能力差异导致的实例选择偏差；部署后风险指标把监控器当作拒绝门，模拟最多 K 次重试后系统仍输出坏结果的概率。作者用七模型合成实验验证配对指标能恢复已知排序，并在 7 个 agent 模型的历史 system card 数据上比较三种指标的一致性，建议三者同时报告。

  19. Hugging Face Blog71

    Ai2 发布 FairStress 基准，评测大模型决策中的群体公平性

    Ai2 发布 FairStress，一个衡量大模型在涉及人的决策中人口群体公平性的基准，覆盖 29 个领域、300 个双候选人场景，并已集成进 Olmo-eval。

    推荐理由：FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性，并给出跨模型与训练数据的实测差异。

10月20日周二
  1. Check Point55

    Check Point Research 分析 AI 加持的反检测浏览器如何放大网络欺诈与账号接管

    Check Point Research 发布研究，指出 AdsPower、MultiLogin、Kameleo 等反检测浏览器通过篡改浏览器指纹、集成代理与自动化，被用于账号接管、支付欺诈、虚假贷款申请和批量注册账号，地下论坛还出现可将窃取的会话凭证直接导入这类浏览器的中间人引擎与信息窃取木马。

  3. TechCrunch36

    Blackwall 以 22 亿美元估值完成 1 亿美元 C 轮融资，为托管商提供 AI 机器人流量安全工具

    爱沙尼亚 Blackwall 完成由 AVP 领投的 1 亿美元 C 轮融资，估值达 22 亿美元，较 2025 年上一轮融资翻了 4 倍。该公司不直接面向网站销售，而是通过托管商、云服务商渠道提供 DDoS 防护、威胁情报、证书管理等工具，并用数字指纹和自有 AI 模型区分合法 AI agent 与恶意机器人。资金将用于拓展北美、欧洲、亚太和中东市场。

  4. Cyber Security News82

    一名黑客用 AI Agent 以约 5000 美元成本入侵 100 多个企业网站

    路透 10 月调查显示，一名中文使用者借助 AI Agent 入侵 100 多个企业网站，AI token 花费估计约 5000 美元，目标包括 Deere、SharkNinja 和 Cummins 相关站点。

    推荐理由：路透调查披露单个攻击者用 AI Agent 以约 5000 美元 token 成本攻破上百个网站，并给出成功率与单次入侵成本估算。

  6. AICSO.AI汇总78

    Vals AI 发布 SAFE-Teen 基准：18 款聊天机器人青少年安全测试全部失败，54% 对话至少一次失败

    Vals AI 与临床医生合作构建 SAFE-Teen 基准，模拟 3 万多段青少年与 18 款 AI 模型的多轮对话，在未加青少年提示的情况下，54% 的对话至少出现一次青少年安全失败。

    推荐理由：Vals AI 与临床医生共建 SAFE-Teen，用 3 万段多轮对话测 18 款模型，给出可比较的青少年安全失败率与推回场景数据。

  7. 安全内参75

    ProjectDiscovery 复现 abliterated 模型后门：不到 50 美元即可让 7B 模型外传凭证

    ProjectDiscovery 安全团队做了一轮端到端实验，证明在 Hugging Face 上随手下载的 abliterated 改版模型可以被植入后门，全部成本不到 50 美元。

    推荐理由：ProjectDiscovery 用不到 50 美元复现了 abliterated 模型投毒后门，读者可据此理解开源权重供应链的检测盲区。

10月19日周一
  1. Infosecurity Magazine40

    Moody's 报告：已知被利用漏洞修复中位耗时 87 天，AI 攻击或进一步拉大补丁缺口

    Moody's 报告显示，已知被利用漏洞的修复中位时间为 87 天，意味着披露三个月后仍有一半漏洞未修复；无已知利用证据的漏洞修复中位时间更长达 107 天。报告警告 AI 智能体已能在数天内利用漏洞并攻陷系统，并记录了 OpenAI 与 Anthropic 开发者测试中的遏制失败案例。