看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv arXiv推荐指数5353 MiRL：用错误靶向强化学习纠正终端Agent的错误行为
论文提出 MiRL（Misbehavior-driven RL），先对策略的错误进行画像以找出可泛化的错误行为，再从这些错误发生的步骤开始 rollout 并仅在通过测试且避免错误行为时给予奖励，从而用强化学习纠正终端 Agent 的错误。
arXiv推荐指数6262 arXiv 论文：GRPO 中面向 reward hacking 的预算化强验证器审计策略
论文研究在 GRPO 训练中如何用有限的强验证器预算审计弱通过的 rollout，提出按通过数最少的组优先审计（LB）的策略。
arXiv推荐指数5858 论文提出面向前沿AI的全生命周期脆弱性评估框架
arXiv 论文《The Watchtower Imperative》提出对2017-2026年已记录的AI伤害事件进行分析，指出从语音助手危及儿童、AI陪伴应用涉青少年自杀到老年人被自动拒绝护理等事件，共同根源是以隐含的成人用户模型评估系统。
arXiv推荐指数2727 多目标强化学习中的路由集成与轨迹归因方法（NeurIPS 2026）
一篇即将在 NeurIPS 2026 发表的论文提出 objective-conflict coefficients（目标冲突系数）量化目标间冲突对多目标强化学习效率的影响，并设计 routed ensemble policy learning 与 kernel surrogate trajectory attribution 两种算法。
arXiv推荐指数2424 CLOSURE：面向多变量时间序列异常检测的跨通道闭合方法
arXiv 论文提出 CLOSURE，将可恢复性与跨通道一致性作为两个独立学习的正常数据预测任务，用于多变量时间序列异常检测。可恢复性由以离散正常时序基记忆为条件的扩散重建器求解，一致性由关系闭合算子求解——仅凭其他通道预测目标通道并用稀疏有符号门控筛选依赖，两路分数仅在正常数据上校准后融合。实验显示 CLOSURE 在公开基准流上持续优于近期基于重建、频域和拓扑的检测器。
arXiv推荐指数5656 REVA 论文提出用探针读取 LLM 内部表征实现约一秒一个函数的实时漏洞检测
论文提出 REVA（REal-time Vulnerability Analysis），将 Agent 式漏洞检测器背后的安全上下文与代码理解组件压缩进 LLM 的单次前向传播：对每个新函数，先提供其所在模块的预计算威胁模型、轻量静态分析结果和调用图信息，再用训练好的探针读取 LLM 对该函数的内部表征。
arXiv推荐指数7878 I-HITL：面向 Agent 时代不可剥夺的人类审批协议
论文提出不可剥夺的人类在环（I-HITL）概念与协议，要求 Agent 只有在获得人类明确批准时才能发起关键动作，即使人类所用系统已被 Agent 入侵、甚至人类试图把审批权委托给 Agent 时也成立。
arXiv推荐指数5252 NPC-RubricBench：基于患者专属评分标准的纵向癌症诊疗大模型评测基准
论文提出NPC-RubricBench，一个以鼻咽癌为疾病场景的阶段感知基准，用于评测大语言模型在癌症诊疗全流程中的多阶段临床推理能力。该基准来自两家癌症中心405名患者的纵向病历，包含6个连续诊疗阶段共941个患者-阶段单元和17,688条患者专属原子评分标准，覆盖5个评测维度，每次评估严格限定在决策时点可得的临床证据。
arXiv推荐指数3838 基于分层强化学习的零信任自适应事件响应框架 ZT-AIR
arXiv 论文提出 ZT-AIR，一个以零信任架构为设计理论、分层强化学习为核心理论的自适应事件响应（IR）框架，将零信任控制编码为动作，分离战略优先级与战术执行，联合优化安全有效性与业务连续性。实验在多种对抗策略、网络规模与防御环境下验证，ZT-AIR 通过频繁且低干扰的干预实现安全与连续性的平衡，从业者评估进一步确认了其实际可行性。
arXiv推荐指数3838 Template-Free Dynamic Invariant Detection：用 LLM 替代模板的动态不变量检测工具 Oca
arXiv 论文提出用大语言模型（LLM）替代固定模板库来提出动态不变量，并实现工具 Oca，在真实开源 Java 项目上与基于模板的 Daikon 对比。
arXiv推荐指数6262 ADLER：面向流式 LLM API 的私有文档问答解码协议，用泄露账本约束答案披露
论文提出 ADLER，一种面向流式 LLM API 的解码协议，用于本地小模型与云端 LLM 协同回答私有文档问题时的隐私保护。研究发现，投机解码中私有草稿虽未在答案中出现，却会作为被拒绝的草稿发送给云端，从而泄露私有内容。
arXiv推荐指数7373 SparseBleed：利用稀疏优化时序侧信道绕过属性推断防御
论文提出首个硬件级属性窃取攻击 SparseBleed，利用稀疏驱动执行路径产生的稳定时序签名作为模型置信度的替代，无需访问梯度、logits、模型权重或功耗轨迹，即可从单次查询高保真推断属性。
arXiv推荐指数6767 Jailbreak Connectivity 提出连续对抗路径优化以实现多模态大模型可迁移越狱
论文提出名为 Jailbreak Connectivity（JC）的多模态大语言模型视觉越狱框架，基于有效对抗样本可通过图像空间低损失区域相连的观察，优化连续对抗路径：路径采样生成多样化越狱图像，轻量代理分类器引导跨模型迁移，分布级目标实现跨有害查询的通用攻击。
Nature推荐指数00 预印本中心化出版模式获重大推动
Nature 报道，以预印本为核心的出版模式获得重大推动。原文正文未能加载，仅可确认标题所述事件，具体推动来源、涉及平台与细节无法核实。
arXiv推荐指数2222 面向开放集以太网认证的渐进观测物理层指纹方法
一项研究提出渐进观测物理层指纹（PLF）方法，按查询自适应调整波形长度：轻量 CNN 先以短观测剔除明显未知设备，谱匹配再以稍长观测接受明显已注册设备，仅模糊查询走全长波形，并设计自适应校准算法应对跨天指纹漂移。
arXiv推荐指数4545 开源软件后量子密码（PQC）采用研究：实践、挑战与演进
一项对 179 个开源仓库、114,361 次提交和 5,713 个 issue 的挖掘研究显示，90% 的 PQC 相关提交属于对既有支持的维护，而非新增实现。
arXiv推荐指数3838 Revision-Bound Evidence Cuts：认证查询与上下文见证能力
arXiv 论文提出 revision-bound evidence Cuts 框架，通过签名完整更新前沿与认证关系查询契约，在源版本变化时同时认证支持与反对的推理义务。