跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选展开
共 1,382 条 · 更新于 15:39
10月28日周三
  1. arXiv45

    DocXEval:多模态文档理解可解释性系统评测框架

    DocXEval 提出首个面向多模态(文本、版面、图像)文档理解的可解释性(XAI)评测框架,系统评测 13 种 XAI 方法、3 类任务、8 个数据集、4 个模型与 17 项评测指标,发现仅少数方法在全部指标上表现稳定,其中 Occlusion 整体最忠实、最可解释。元评测显示多项忠实度与复杂度指标存在中到强一致性,同时识别出部分不可靠指标。代码已公开发布以支持可复现性。

  2. arXiv60

    API-TAIL:通过温度对齐似然尾部检测LLM API中的模型替换

    arXiv论文提出API-TAIL,一种检测商业大语言模型API部分模型替换的典型性审计方法。该方法先对齐单一有效温度以吸收批次级分布偏移,再标记超出阈值的尾部响应,从而在合法解码配置构成的复合零假设下检测低比例替换。在真实商业API上的评测显示,API-TAIL能控制误报并以较小查询预算检测低速率替换,优于基于rank和MMD的现有审计方法。

  3. arXiv49

    图像扩散模型 LoRA 适配的来源签名检测协议(arXiv 预印本)

    一篇 arXiv 预印本提出一套协议,用于检测在线服务是否在使用标准图像扩散模型的 LoRA 适配版本,并在开放世界场景下(候选适配与替代模型未知)区分基础模型、LoRA 适配与其他模型家族。该方法基于假设检验,仅利用模型生成图像集合的内在维度构建黑盒签名,区别于以往在已知候选模型列表内做模型识别的工作。论文目前处于 Under review 状态,作者为 Tobias Cheung。