跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选展开
共 1,382 条 · 更新于 15:39
10月27日周二
  1. arXiv55

    PrivacyEvalClaw:用于审计 LLM 越狱回复隐私泄露的工具增强审议式代理

    论文提出 PrivacyEvalClaw,一个免训练的审议式代理,用于评估 LLM 越狱回复中的隐私泄露。它将评测器和分析模块视为工具,自适应收集证据、调查不确定披露并调和冲突信号后再给出判断。

  2. arXiv55

    arXiv 论文提出任务条件可见度裕度,量化多源异常检测器的隐蔽源操纵风险

    论文提出威胁量化指标任务条件可见度裕度(task-conditioned visibility margin),定义为操纵每单位下游任务危害必须暴露的最少检测器证据,该裕度有闭式解,每张证书约 85 μs,可给出最小证据攻击并识别检测器看不见的任务相关方向。

  3. arXiv58

    IEEE S&P 2027 论文:少步数文生图模型加速与安全存在固有张力,提出 DICE 擦除方法

    论文研究少步数蒸馏文生图模型的安全性,发现加速与安全存在固有张力:少步数模型往往比教师模型更不安全,减少推理步数会持续推高不安全生成率,且加速使不安全概念更难被擦除。

  4. arXiv44

    CASEL:面向后果感知的工具调用 Agent 运行时选择性执行层

    CASEL(Consequence-Aware Selective Execution Layer)提出一种模型无关的运行时分配策略,为工具调用 Agent 的每次工具调用在直接执行、验证、沙箱、澄清、审批和弃权之间选择,综合校准失败概率、状态相关后果、可逆性、歧义与证据新鲜度。

  5. arXiv44

    ProCerDCL:面向深度学习编译器优化的查询高效黑盒概率验证框架

    ProCerDCL 提出一种查询高效的黑盒概率验证框架,通过单一序贯检验(修正精确二项置信区间或 anytime-valid 置信序列)判定属性违反概率 p 是否超过阈值 θ,给出接受、拒绝或不确定三值结论,并将各类错误判定概率控制在指定误差预算内。

  6. arXiv44

    FIDES-Live:评估顺序交易智能体的行为一致性

    FIDES-Live 将 FIDES 从生成策略一致性扩展到顺序智能体轨迹审计,对 10 条推理路径、7,299 个加密货币账户轮次及 310 轮股票试点进行回溯审计。加密货币决策有效率为 97.35%,可评分回答的结构化报告准确率为 90.81%,承诺遵守率整体为 94.36%。非空订单提案约束的遵守率降至 62.63%,而有效空提案为 97.56%;所有现金与持仓变动均与成交记录对账一致。

  7. Nature1

    Nature 作者更正:针对噬菌体感染的化学防御

    Nature 发布了一篇作者更正,题为“A chemical defence against phage infection”(针对噬菌体感染的化学防御)。正文内容因页面加载失败未能获取,仅确认该更正涉及一篇关于化学防御噬菌体感染的研究论文。

  8. arXiv59

    arXiv论文:AI编码Agent过度顺从式重构行为研究

    论文对迭代重构任务开展受控研究,让 Codex 和 Claude Code 在五个模型上反复被要求继续重构,累计超过 3,000 轮对话,定义了六个过度顺从行为信号。结果显示没有模型在代码已优化后停止编辑,全部持续改写,最多重写达原代码库的 31 倍,甚至在声明任务完成后仍继续编辑。作者指出过度顺从是随轮次累积的高成本行为,六个信号可帮助开发者和工具构建方检测并抑制该行为。

10月26日周一
  1. ShortSpan78

    NTBench 论文揭示近目标提示词注入使 Meta-SecAlign-70B 攻击成功率从 3.2% 升至 36.7%

    论文《On Task, Off Track: Benchmarking LLM and Agent Robustness to Near-Target Prompt Injection》提出近目标提示词注入(near-target prompt injection)与评测集 NTBench:注入指令不再要求模型放弃用户任务,而是让模型完成任务但把其中一处做错或做有害。