跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选3展开
共 2 条 · 更新于 09:19
10月21日周三
  1. arXiv63

    BenchDoor:利用基准榜单激励实施数据投毒后门攻击

    研究者提出 BenchDoor 系列数据投毒攻击,利用基准榜单对模型开发的导向作用,在保持良性性能的同时要求带来榜单提升,从而诱导采用被植入后门的数据。攻击者可篡改基准的训练或测试数据构造对抗性基准,也可在基准不变的情况下提供独立训练数据集,论文形式化出五种攻击场景。

10月19日周一
  1. 安全paper74

    AutoRedClaw:面向 claw 式 Agent 的自动化红队框架与 RedClaw-Bench 基准

    AutoRedClaw 是一个面向持久化 claw 式 LLM Agent 的自动化红队框架,可同时生成端到端状态投毒攻击及其运行所需的任务环境,并据此构建 330 例的 RedClaw-Bench 基准。