BenchDoor:利用基准榜单激励实施数据投毒后门攻击
研究者提出 BenchDoor 系列数据投毒攻击,利用基准榜单对模型开发的导向作用,在保持良性性能的同时要求带来榜单提升,从而诱导采用被植入后门的数据。攻击者可篡改基准的训练或测试数据构造对抗性基准,也可在基准不变的情况下提供独立训练数据集,论文形式化出五种攻击场景。
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
研究者提出 BenchDoor 系列数据投毒攻击,利用基准榜单对模型开发的导向作用,在保持良性性能的同时要求带来榜单提升,从而诱导采用被植入后门的数据。攻击者可篡改基准的训练或测试数据构造对抗性基准,也可在基准不变的情况下提供独立训练数据集,论文形式化出五种攻击场景。
AutoRedClaw 是一个面向持久化 claw 式 LLM Agent 的自动化红队框架,可同时生成端到端状态投毒攻击及其运行所需的任务环境,并据此构建 330 例的 RedClaw-Bench 基准。