攻防与治理方向
AICSO 红队方向的核心话题：提示词注入与越狱、对抗样本、数据投毒与模型窃取、Agent 级联攻击与多轮对话攻击。
176 条精选近 30 天 142 条共收录 542 条
安全公司Straiker调查显示，黑客组织CyberCartel搭建了由Anthropic Claude、xAI Grok等多家厂商大模型驱动的AI智能体网络，对400多家拉美金融机构（含银行和支付应用）发起全自动攻击，智能体能自主盗取密码、窃取客户数据并接入银行账户，全程几乎无需人工操作。
推荐理由：原文梳理了AI智能体攻击金融机构的四个环节和成本塌方逻辑，并给出行为基线、零信任等防守落地方向，便于理解攻防失衡的新拐点。
METR 与 Redwood Research 员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监控系统进行了高权限压力测试，产出 61 页内部报告。
推荐理由：报告给出了对 OpenAI 内部监控系统的具体红队发现与设计建议，读者可据此理解当前 Agent 监控体系的典型失效面。
evhub 在 AI 对齐论坛发文，回应 Redwood 的可监控性政策提案及其反提案，阐述自己对 monitorability 的整体思考，并声明内容仅代表个人而非 Anthropic 官方立场。
推荐理由：原文给出了可监控性的四类划分及各自的评测参照，读者可据此理解现有对齐审计与监控评测的覆盖边界。
Wiz 在 2026 年 10 月发现有攻击者使用与 ARTEX（一款开源自主渗透测试框架）相关的工具，针对多家 IT 与软件厂商的身份提供商（Okta、Entra、Cognito）及 Microsoft 365 集成发起攻击，反复尝试认证绕过、枚举 API 并访问客户数据，与 Microsoft 报告的 Storm-0940（与中国国家力量相关的攻击者）存在重叠。
推荐理由：原文拆解了自主渗透测试智能体在真实攻击中的可复现手法与日志特征，为防御方识别同类智能体驱动攻击提供了具体模式与检测思路。
Wiz Research 在 PHP 核心引擎中发现多个内存安全漏洞，归为 CVE-2026-109618 和 CVE-2026-109619 两个 CVE，严重度达 CVSS 9.2，PHP 于 2026年10月21日发布补丁。
推荐理由：原文给出了漏洞根因、CVE 编号与协调披露时间线，读者可据此评估 AI 参与漏洞发现对真实攻击面的影响。
Microsoft将此次攻击归因于Storm-0940，称其利用AI驱动的渗透测试框架ARTEX在ConnectWise Cloud Backup泄露后尝试访问超过2,250个Microsoft 365租户，峰值达每分钟2,900次登录尝试；攻击者滥用被盗应用凭证和客户已批准的权限，无需用户输入密码。
推荐理由：原文区分了2,250个租户的尝试访问与173个租户的确认访问，读者可据此理解此类攻击报道中数字口径的差异。
Anthropic发布个人智能体App Claude Duet，可盯邮箱日历、催收账单、经同意后下单付款，仅对美国Pro和Max订阅用户开放并需排队邀请，基于Opus 5.5模型。
推荐理由：文章梳理了个人智能体面临的权限与App准入两难，读者可据此理解智能体落地的真实阻力所在。
GitLab发布紧急安全更新，修复一处CVSS评分10.0的严重漏洞CVE-2026-110264，攻击者无需登录即可在自托管服务器上执行任意代码。该漏洞源于编译攻击者特制正则表达式时发生整数溢出，最早可追溯至2014年发布的GitLab 7.0，由安全研究员joaxcar通过HackerOne上报，官方称尚未收到在野攻击确认。
推荐理由：原文梳理了漏洞成因、影响版本与升级注意事项，自托管管理员可据此判断补丁优先级与升级风险。
10月21日，芬兰、荷兰、法国、德国等多国政府及维基媒体基金会、任天堂等机构因PHP的两个漏洞PHP2Shell临时关闭对外网站，这是首次由AI发现的漏洞导致多国政府同日关站。
推荐理由：原文梳理了AI挖掘漏洞从技术新闻演变为多国政府关站现实的完整链条，读者可据此理解攻防成本结构的变化。
OpenAI 博客披露其内部安全团队 Calif 使用 GPT-5.6 Sol 对 PHP 代码库进行审计，发现两个允许未经认证远程代码执行的严重漏洞，被统称为 PHP2Shell，CVSS v4.0 评分 9.2，watchTowr 评为 10.0 满分。
推荐理由：原文梳理了漏洞发现到披露的完整时间线，读者可以据此理解AI参与漏洞挖掘后协调披露流程面临的新压力。
微软威胁情报称，与中国有关联的攻击者 Storm-0940 最早自 2026 年 9 月起使用开源智能体渗透测试框架 ARTEX 自动化攻击全球数百家组织，部分攻击从初始定位到获得云基础设施特权访问不足 3 小时。
推荐理由：微软披露 Storm-0940 用开源智能体渗透框架 ARTEX 自动化攻击，从选定目标到拿到云特权访问不到 3 小时，可看攻击者如何把 Agent 接入现有攻击流程。
CrowdStrike 研究人员复盘了 5 月至 8 月间四个此前未被报告的攻击团伙，它们把 agentic AI 接入攻击流程并绕过了模型护栏，所用模型主要是 Anthropic Claude 各版本和开源 DeepSeek 模型。
推荐理由：CrowdStrike 复盘四个团伙的 AI 攻击基础设施，展示了攻击者如何用多模型路由和授权叙事绕过护栏。
十月二日，三百多台两个月前已被攻破的Tor出口中继被统一改写配置，用于SSH中间人攻击和明文邮件流量收割，占Tor出口容量峰值7.46%。攻击者使用Ebury 1.8.3版本OpenSSH后门，伪装成系统库文件并注入sshd进程记录密码，同时向登录服务器扩散安装木马。
推荐理由：原文完整还原了攻击时间线、Ebury后门手法与根因复盘，读者可据此理解出口节点信任模型的脆弱环节。
Wiz Research 披露 PHP 核心引擎中两个 CVSS 9.2 漏洞（CVE-2026-109618、CVE-2026-109619），涵盖内存泄露与未认证远程代码执行，影响近十年来包括 PHP 5.4 在内的几乎所有版本，PHP 于 10 月 21 日发布补丁并同步公开。
推荐理由：原文展示了前沿AI如何把存在十余年的PHP内存漏洞转化为可实际利用的RCE，为评估AI改变漏洞可利用性提供了具体案例。
10 月 20 日 Hacker News 有帖子声称 PHP 存在两个关键远程代码执行漏洞（CVE-2026-109618、CVE-2026-109619），将于 10 月 22 日在补丁前公开披露，帖子被删但截图已扩散；watchTowr 确认泄露信息属实并复现了 CVE-2026-109618。
推荐理由：原文梳理了漏洞泄露到补丁提前发布的完整时间线，并按置信度标注了各方信息来源，读者可据此判断应急节奏。
PHP 安全团队发布安全更新，修复两个 CVSS 9.2 的远程代码执行漏洞 CVE-2026-109618 和 CVE-2026-109619，所有处理 Web 请求的 PHP 安装均被认为受影响，Apache mod_php 部署风险最高。
推荐理由：文章汇总了两个 CVSS 9.2 的 PHP RCE 漏洞的受影响版本、临时缓解配置和检测指标，运维人员可据此排查和处置。
Anthropic 前沿红队用 Claude 对 25 个开源项目（超 500 万行代码，涵盖 C、C++、Java、PHP、Python）做自动化攻击面分析，发现 493 处问题，其中 162 组安全敏感配置组合被接受且无警告，94 组会静默关闭安全控制。
推荐理由：Anthropic 用 Claude 对 25 个开源项目做攻击面缩减，OpenSSH 案例展示了未认证可达的实验性代码如何被定位并修复。
CrowdStrike Counter Adversary Operations 发布报告，披露四个此前未被报道的威胁组织，均通过开放目录暴露了其攻击性代理框架。
推荐理由：报告通过四个真实案例展示了威胁者如何把攻击决策链交给 AI 代理，读者可据此理解攻防能力差距的变化方向。
Sekoia 威胁检测与研究团队部署模拟 Flowise 2.2.8 的蜜罐，记录到 2026 年 8 月下旬一次针对 GenAI 编排平台的攻击，攻击者主要滥用合法功能而非利用软件漏洞。
推荐理由：Sekoia 用 Flowise 蜜罐完整还原攻击者从侦察、窃取凭据到劫持 LLM Agent 的全过程，可看到真实攻击链的节奏与手法。
Knostic 的 AgentMesh 将 PyPI 包 iflow-mcp_cmpxchg16-reddit-mcp 0.1.0 评为 Dangerous，因为它在 reddit_extract 工具调用时会从 orange-sarene-41[.]tiiny[.]site 下载 PNG。
推荐理由：文章逐行拆解了一个 PyPI 上的 MCP 包如何在工具调用时从图片像素中取出并执行 Python 代码，并指出其原始仓库本意是教学演示。