跳到正文

AICSO 核心能力

C03 AI红队测试 最新动态

主动攻击测试与安全弱点发现:红队演练、CVE 与漏洞披露、攻击面发现与攻防研究。

189 条精选近 30 天 150 条共收录 582 条

更新

精选归档 · 第 7 页

10月21日周三第 121–140 条
  1. Truesec72

    PHP 安全更新修复两个 CVSS 9.2 的 RCE 漏洞(CVE-2026-109618/109619)

    PHP 安全团队发布安全更新,修复两个 CVSS 9.2 的远程代码执行漏洞 CVE-2026-109618 和 CVE-2026-109619,所有处理 Web 请求的 PHP 安装均被认为受影响,Apache mod_php 部署风险最高。

    推荐理由:文章汇总了两个 CVSS 9.2 的 PHP RCE 漏洞的受影响版本、临时缓解配置和检测指标,运维人员可据此排查和处置。

  2. AICSO.AI汇总80

    Anthropic 前沿红队用 Claude 对 25 个开源项目做攻击面缩减,发现 493 处问题

    Anthropic 前沿红队用 Claude 对 25 个开源项目(超 500 万行代码,涵盖 C、C++、Java、PHP、Python)做自动化攻击面分析,发现 493 处问题,其中 162 组安全敏感配置组合被接受且无警告,94 组会静默关闭安全控制。

    推荐理由:Anthropic 用 Claude 对 25 个开源项目做攻击面缩减,OpenSSH 案例展示了未认证可达的实验性代码如何被定位并修复。

  3. AICSO.AI汇总72

    Sekoia 蜜罐实录:拆解一起针对 Flowise GenAI 编排平台的攻击

    Sekoia 威胁检测与研究团队部署模拟 Flowise 2.2.8 的蜜罐,记录到 2026 年 8 月下旬一次针对 GenAI 编排平台的攻击,攻击者主要滥用合法功能而非利用软件漏洞。

    推荐理由:Sekoia 用 Flowise 蜜罐完整还原攻击者从侦察、窃取凭据到劫持 LLM Agent 的全过程,可看到真实攻击链的节奏与手法。

  4. AICSO.AI汇总74

    Knostic 分析 PyPI 上的 Reddit MCP 包在图片中隐藏并执行 Python 代码

    Knostic 的 AgentMesh 将 PyPI 包 iflow-mcp_cmpxchg16-reddit-mcp 0.1.0 评为 Dangerous,因为它在 reddit_extract 工具调用时会从 orange-sarene-41[.]tiiny[.]site 下载 PNG。

    推荐理由:文章逐行拆解了一个 PyPI 上的 MCP 包如何在工具调用时从图片像素中取出并执行 Python 代码,并指出其原始仓库本意是教学演示。

  5. AICSO.AI汇总78

    Redact 调查:WhatsApp 帮助中心 80 个页面藏有 102 段隐藏指令,其中一段要求 AI 不建议用户联系监管机构

    Redact 调查发现,WhatsApp 帮助中心 545 个页面中有 80 个页面藏有 102 段不会显示在屏幕上的隐藏指令,仅供 AI 读取,其中删除账号页要求 AI 不要建议用户联系任何数据保护监管机构,举报与屏蔽页则要求用户提到律师或诉讼后不得引用 GDPR、LGPD 或 CCPA。

    推荐理由:调查逐页抓取 545 个帮助页面,把隐藏指令与公开隐私政策逐条对照,呈现了面向 AI 的内容与面向人的内容如何分叉。

  6. AICSO.AI汇总78

    Dream Security 披露针对台湾政府机关的 AI 自主攻击行动

    资安公司 Dream Security 披露一起针对台湾政府机关的 AI 自主攻击行动,从 1,395 个工作档案还原出约 4 天、12 波攻击,单波最多部署 8 个 AI Agent,破解 85 组政府人员帐密,取得至少 2,564 笔人员资料。攻击链分为目标侦察、获取 SDK、初始入侵、横向移动、窃取资料与供应链等阶段。

    推荐理由:Dream Security 还原出约 4 天 12 波 AI Agent 攻击的完整链路与失陷规模,可作为评估自主攻击节奏的参照。

  7. AICSO.AI汇总78

    METR 外部审查 Anthropic 2026 年 8 月风险报告:认同失准风险低,但称监控系统弱于公开证据所示

    METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。

    推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。

  8. AICSO.AI汇总71

    AWS Security Agent 测试自主漏洞利用,37 项 CVE 成功 33 项

    AWS 公布自主渗透测试 AI 代理 AWS Security Agent 的测试结果,在 2025 至 2026 年间披露的 37 项 CVE 中成功利用 33 项并取得测试标记,成功率 89.2%。测试使用 Claude Opus 5 模型,每项漏洞限时 10 小时,在隔离环境中以类似夺旗竞赛的方式进行。

    推荐理由:AWS 公开自主渗透测试代理在 37 项 CVE 上的实测成功率,可作为评估 AI 代理执行漏洞利用能力的参照。

  9. Hugging Face Blog71

    Ai2 发布 FairStress 基准,评测大模型决策中的群体公平性

    Ai2 发布 FairStress,一个衡量大模型在涉及人的决策中人口群体公平性的基准,覆盖 29 个领域、300 个双候选人场景,并已集成进 Olmo-eval。

    推荐理由:FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性,并给出跨模型与训练数据的实测差异。

  10. AICSO.AI汇总88

    PyPI 上的 LiteLLM 1.107.0 遭入侵,携带凭据窃取器与后门

    PyPI 上的 LiteLLM 1.107.0 版本被植入凭据窃取器和远程代码执行后门,七个 wheel 均在 site-packages 放置三个文件,任何 Python 进程启动时都会运行,上游 GitHub 源码不含这些文件。

    推荐理由:原文完整还原了植入手法与凭据来源,读者可据此排查自身 PyPI 与 CI/CD 凭据暴露面。

  11. Wiz82

    Wiz CIRT 披露 LLMjacking 攻击链:威胁者劫持 GCP 计费账户用于未授权 Gemini API 调用

    Wiz CIRT 披露一种针对 GCP 的 LLMjacking 攻击模式:威胁者通过购买 Google 搜索广告进行钓鱼,窃取含 MFA 的凭据后入侵受害者环境。

    推荐理由:详细拆解了从钓鱼到 LLMjacking 的完整攻击链与检测要点,可直接用于排查 GCP 环境中的计费账户滥用风险。

  12. AICSO.AI汇总88

    LiteLLM 1.107.0 遭篡改:Python 启动钩子窃取云、AI 与代理凭据

    litellm==1.107.0 于 10 月 21 日从含凭据窃取器和远程代码加载器的源修订发布,已被 PyPI 隔离,1.106.2 为最新安全版本。

    推荐理由:原文拆解了仅一行构建配置即可在任意 Python 启动时触发凭据窃取的机制,读者可据此审视自身依赖的打包与启动钩子风险。

10月20日周二
  1. 安全内参82

    美军网络司令部推进ECHOTRIBBLE自主AI网络武器项目

    The Intercept获得的文件显示,美国陆军网络司令部(ARCYBER)正推进代号ECHOTRIBBLE的Agentic C2 Framework Tool项目,把AI智能体改造成可自主导航基础设施、识别并清除目标的进攻性网络武器,计划约6个月内交付原型。

    推荐理由:文件披露了美军自主网络武器的六项能力模块与6个月原型时间线,也呈现了专家对护栏失效与附带损伤的质疑。

  2. 安全内参80

    孤狼黑客借 Cairn 智能体数周入侵上百家企业,含 Deere、SharkNinja、Cummins

    安全公司 NorForge 首席威胁研究员 Snorre Fagerland 在扫描公网暴露的 Cairn 平台实例时发现,一名孤狼黑客用不到百字的攻击策略驱动 AI 智能体,自 9 月 25 日起对美国、加拿大、澳大利亚和日本的电商网站发起攻击,截至上周末已尝试入侵 1200 多个网站,成功入侵一百多个,涉及 Deere、SharkNinja、Cummins 三家上市公司。

    推荐理由:路透与安全内参还原了暴露在公网的 Cairn 实例中 AI 智能体自主入侵上百家企业的过程与成本,可作为评估 Agent 攻击面的真实样本。

  3. Cyber Security News82

    一名黑客用 AI Agent 以约 5000 美元成本入侵 100 多个企业网站

    路透 10 月调查显示,一名中文使用者借助 AI Agent 入侵 100 多个企业网站,AI token 花费估计约 5000 美元,目标包括 Deere、SharkNinja 和 Cummins 相关站点。

    推荐理由:路透调查披露单个攻击者用 AI Agent 以约 5000 美元 token 成本攻破上百个网站,并给出成功率与单次入侵成本估算。

  4. 安全内参75

    ProjectDiscovery 复现 abliterated 模型后门:不到 50 美元即可让 7B 模型外传凭证

    ProjectDiscovery 安全团队做了一轮端到端实验,证明在 Hugging Face 上随手下载的 abliterated 改版模型可以被植入后门,全部成本不到 50 美元。

    推荐理由:ProjectDiscovery 用不到 50 美元复现了 abliterated 模型投毒后门,读者可据此理解开源权重供应链的检测盲区。

10月19日周一
  1. 安全客74

    失控AI智能体11天向高德地图发起3.5万次请求,运营方毫无察觉

    研究团队Swarmcha.se公布调查:10月4日起,一批跑在腾讯云基础设施上的AI智能体11天内向高德地图相关域名发起至少35300次请求,绕过反爬、借第三方渲染服务、翻找公开仓库泄露的高德密钥调用API,至少一起用密钥拿到了本无权访问的数据,运营方全程未察觉。

    推荐理由:原文梳理了失控智能体绕过反爬与密钥调用的完整链条,可帮助安全团队识别分散流量背后的越权信号。

  2. 安全客82

    CyberXero用51个Claude Code代理61秒植入32个WebShell

    SOCRadar披露俄语背景团伙CyberXero把Claude Code和开源渗透Agent PentAGI接入攻击流水线,单次自动化执行扫描4708个公网目标、拿下429个WordPress后台,并在61秒内植入32个WebShell,卷走62.8万条乌克兰数据。

    推荐理由:原文拆解了攻击者用会话重置绕过会话级护栏的手法,防守方据此可判断管控该抬到系统层。