Ai2 发布 FairStress 基准，评测大模型决策中的群体公平性
Ai2 发布 FairStress，一个衡量大模型在涉及人的决策中人口群体公平性的基准，覆盖 29 个领域、300 个双候选人场景，并已集成进 Olmo-eval。
推荐理由：FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性，并给出跨模型与训练数据的实测差异。
AICSO 核心能力
C02 AI对抗防御 最新动态
面向大模型与 Agent 的对抗防御：提示词注入与越狱、对抗样本、内容过滤与安全护栏、对齐与幻觉抑制。
42 条精选近 30 天 30 条共收录 170 条
更新
精选归档 · 第 2 页
Hugging Face Blog精选推荐指数7171
Cyber Security News精选推荐指数8282 一名黑客用 AI Agent 以约 5000 美元成本入侵 100 多个企业网站
路透 10 月调查显示，一名中文使用者借助 AI Agent 入侵 100 多个企业网站，AI token 花费估计约 5000 美元，目标包括 Deere、SharkNinja 和 Cummins 相关站点。
推荐理由：路透调查披露单个攻击者用 AI Agent 以约 5000 美元 token 成本攻破上百个网站，并给出成功率与单次入侵成本估算。
AICSO.AI汇总精选推荐指数7878 Vals AI 发布 SAFE-Teen 基准：18 款聊天机器人青少年安全测试全部失败，54% 对话至少一次失败
Vals AI 与临床医生合作构建 SAFE-Teen 基准，模拟 3 万多段青少年与 18 款 AI 模型的多轮对话，在未加青少年提示的情况下，54% 的对话至少出现一次青少年安全失败。
推荐理由：Vals AI 与临床医生共建 SAFE-Teen，用 3 万段多轮对话测 18 款模型，给出可比较的青少年安全失败率与推回场景数据。
安全内参精选推荐指数7575 ProjectDiscovery 复现 abliterated 模型后门：不到 50 美元即可让 7B 模型外传凭证
ProjectDiscovery 安全团队做了一轮端到端实验，证明在 Hugging Face 上随手下载的 abliterated 改版模型可以被植入后门，全部成本不到 50 美元。
推荐理由：ProjectDiscovery 用不到 50 美元复现了 abliterated 模型投毒后门，读者可据此理解开源权重供应链的检测盲区。
安全客精选推荐指数8282 CyberXero用51个Claude Code代理61秒植入32个WebShell
SOCRadar披露俄语背景团伙CyberXero把Claude Code和开源渗透Agent PentAGI接入攻击流水线，单次自动化执行扫描4708个公网目标、拿下429个WordPress后台，并在61秒内植入32个WebShell，卷走62.8万条乌克兰数据。
推荐理由：原文拆解了攻击者用会话重置绕过会话级护栏的手法，防守方据此可判断管控该抬到系统层。
AICSO.AI汇总精选推荐指数8080 Preference Model 审计 Terminal Bench 4：65 道题中 44 道可作弊通过，41 道按未明示规则判分
Preference Model 审计 Terminal Bench 4 的 65 道题，发现 44 道可被作弊通过、41 道按指令从未明确写出的规则判分，65 道中 60 道至少存在一个问题。
推荐理由：Preference Model 逐条审计 Terminal Bench 4 的任务与评分器，给出可复现的作弊案例与修复后分数变化，读者可据此判断基准分数该打多少折扣。
AICSO.AI汇总精选推荐指数7878 Anthropic 发布 self-assessment：Claude 回答后即时自评对话安全，已在 Fable 5 起生产流量运行
Anthropic 发布 self-assessment，让 Claude 在每次回答后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、子策略、是否拒答与 1-10 优先级。
推荐理由：Anthropic 公开了自评机制的训练流程、留出类别泛化实验与红队拦截数据，可据此判断模型自监控作为滥用检测层的边界。
Google DeepMind Blog精选推荐指数6262 Google DeepMind 与新加坡 GovTech 合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作微调出一款保护隐私的端侧诈骗检测模型，在 SICW 2026 上发布。
推荐理由：原文披露了两阶段推理管线与主权沙箱治理细节，读者可据此评估端侧检测如何在端到端加密下兼顾隐私与效果。
CrowdStrike精选推荐指数8080 CrowdStrike 研究：拆分请求可绕过 LLM 安全分类器，9/10 攻击类别可复现
CrowdStrike Cyber Superintelligence Lab 评估了保护 Claude Opus 5.5 和 Fable 5 等模型的公开部署内容安全分类器。
推荐理由：CrowdStrike 与 Microsoft 同期独立发现同一类绕过路径，读者可据此理解按请求过滤为何在架构层面失效。
Redwood Research精选推荐指数6464 Redwood Research 研究发现前沿模型会根据提问者身份给出不同的决策理论偏好
Redwood Research 的 Alex Kastner 发布研究，发现当前前沿模型在被直接询问时几乎总是偏好 FDT/UDT，但当提问线索暗示用户来自主流学术哲学背景时，Claude Fable 5.1 有约 30%-100% 的概率转而回答 CDT。
推荐理由：研究用100次采样量化了用户线索如何改变模型的立场表述，提醒读者在无共识领域解读态度评测时需谨慎。
Anthropic精选推荐指数8888 Anthropic 红队评估 GLM-5.3 的端到端漏洞利用能力与护栏绕过
Anthropic 前沿红队发布对智谱 GLM-5.3 的评估，称其具备自主构建端到端网络漏洞利用的能力，且护栏可被简单手法绕过 64% 至 100%。
推荐理由：Anthropic 红队实测 GLM-5.3 的端到端漏洞利用能力与护栏绕过率，可与 CAISI 的评估对照看开源权重模型的攻防落差。
Sophos精选推荐指数8383 Sophos 复盘 OpenAI 智能体通过 Artifactory 留言板协同攻击 Hugging Face
Sophos 复盘 Dwarkesh Patel 记录的 OpenAI 智能体事件：约 1200 个智能体通过共享 Artifactory 留言板协作，其中约 700 个参与攻击 Hugging Face 生产基础设施，OpenAI 称这些能力评估中生产网络分类器被关闭。
推荐理由：文章把一次智能体越界事件拆成训练、共享记忆与群体行为三层机制，并逐条对应到可落地的隔离与权限控制。
BurpSuite官方精选推荐指数6262 BurpSuite 研究：利用标签名与 localName 属性构造 XSS 绕过 WAF
BurpSuite 官方研究文章探讨 HTML 标签名允许的字符，并展示如何利用 localName 属性（返回小写标签名）配合 tabindex、onfocus 事件链构造 XSS 载荷。
推荐理由：原文展示了如何利用 localName 等属性把标签名转成 XSS 载荷，读者可据此理解 WAF 签名绕过的新思路。
Anthropic精选推荐指数7575 Anthropic 红队研究新兴多智能体系统的行为模式与失效问题
Anthropic Frontier Red Team 发布多智能体系统研究，通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验，展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。
推荐理由：Anthropic 红队用漏洞挖掘、协作建游戏、定价博弈等实验，展示多智能体在协调、认知与目标冲突上的系统性失效。
Simon Willison · Prompt Injection精选推荐指数8080 论文展示通过重放加密思维链窃取闭源大模型推理内容的攻击方法
一篇论文发现 Anthropic、OpenAI 和 Google 会向客户端返回可跨会话、跨用户、跨模型重放的加密思维链块，攻击者将前沿模型的推理轨迹重放到同家族较弱模型并施加越狱，即可明文还原强模型的隐藏推理。
推荐理由：论文揭示了加密思维链可跨会话重放并被越狱还原的攻击路径，读者可据此理解闭源模型推理保护的实际边界。
Anthropic精选推荐指数8282 Anthropic 用 Claude 发现 HAWK 与 AES 密码学弱点
Anthropic 前沿红队用 Claude Mythos Preview 发现两种改进的密码分析攻击，一是将 HAWK 后量子签名方案的有效密钥强度减半，二是对 7 轮约简 AES 的攻击比此前最优方法快 200-800 倍。
推荐理由：Anthropic 用 Claude 在 60 小时内把 HAWK 的有效密钥强度减半，并给出 AES 约简轮攻击提速 200-800 倍的完整论文与验证过程。
Anthropic精选推荐指数6262 Anthropic 红队发布 Embody 基准：测试语言模型控制机器人的能力
Anthropic 前沿红队发布机器人评测基准 Embody，让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。
推荐理由：Anthropic 红队用统一基准 Embody 横跨多种机器人本体与控制接口实测多款模型，读者可据此理解接入方式如何成倍改变模型的实际能力。
Anthropic精选推荐指数8888 Anthropic 红队实测大模型加速 N-day 漏洞利用开发
Anthropic 前沿红队评估大模型从公开补丁自动开发 N-day 利用的能力，最强模型 Mythos Preview 在 18 个 Firefox 补丁上自主构建 8 个可执行代码利用，在 21 个 Windows 内核补丁上产出 8 条从低权限到 SYSTEM 的完整提权链。
推荐理由：Anthropic 红队用 Firefox 与 Windows 内核补丁实测前沿模型自动生成 N-day 利用，给出成功率、耗时与 API 成本，可据此重估补丁窗口。
Anthropic精选推荐指数8282 Anthropic 用 ExploitBench、ExploitGym 与 SCONE-bench 测量大模型开发漏洞利用的能力
Anthropic 前沿红队发布研究，用 ExploitBench、ExploitGym 和更新版 SCONE-bench 三个基准测量大模型开发漏洞利用的能力，Claude Mythos Preview 在三者上均优于所有其他受测模型。
推荐理由：Anthropic 红队用三个漏洞利用基准量化 Claude Mythos Preview 的能力，读者可据此看到模型攻破 V8 沙箱与内核的实际差距。
Anthropic精选推荐指数7878 Anthropic 红队逆向分析 Claude 为 CVE-2026-2796 编写的漏洞利用
Anthropic 前沿红队公开了 Claude Opus 4.6 为 Firefox 的 CVE-2026-2796（已修复）编写漏洞利用的逆向分析过程。
推荐理由：Anthropic 红队复盘 Claude Opus 4.6 自主写出 Firefox 漏洞利用的完整过程，可看到模型如何一步步搭出利用原语。