看学术
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv arXiv推荐指数2222 ExGrad:对抗训练中显式干净梯度相减,超越单纯抑制
ExGrad(外推梯度重组)通过构造干净输入、对抗输入与 AWP 梯度并测量其边界响应,在无约束的有界仿射域上求解三变量系数选择问题。在 CIFAR-10 上,负干净系数随仿射半径增大而迅速占主导;将干净系数置零并不足够,适度相减可提升 PGD-20,更强相减则以干净精度换取进一步增益。
arXiv推荐指数3434 Commit or Abstain?System One 决策模型、LLM 与缺失的法律依据
研究将 CaseHOLD 扩展出弃权条件(5,314 题中 1,670 题替换正确判决),对比四个 System One 决策模型与六个生成式 LLM:无正确选项时生成式 LLM 仍有 38-86% 强行选一项,最谨慎的决策模型为 30%。
arXiv推荐指数4141 VX-One:面向实时边界分诊的类型化校准决策头,实测未知攻击诚实性、级联灰区与漂移下的校准
VX-One 是一个 100K-10M 参数的小型多头网络,输出校准门控、含显式 unknown 选项的闭集选择与序数分数三类类型化决策原语,CPU 上 p50 约 0.7-1.7 ms。
arXiv推荐指数3636 用稀疏自编码器构建可审计的 AI 文本检测器
研究者提出一条流水线,将微调后的神经文本检测器转换为基于人类可读概念的分类器:直接在检测器残差流上训练稀疏自编码器(SAE),为每个 SAE 特征分配自动解释标签,仅保留描述通过全局保真度阈值的特征,再在其上训练轻量分类器。
arXiv推荐指数6060 论文:企业文档解析丢失格式线索,Agent 需求识别 F1 从 0.690 降至 0.150
Yikai Zhao 的论文指出,主流文档转换器都会丢失作者通过文本外观编码的语义线索,使 Agent 在识别政策文档中被作者特别标注的要求时,micro F1 从 0.690 降至 docling 的 0.150 和纯文本的 0.075,该差距在 5 个 Claude 模型和 GPT-5.6 上均可复现。