看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv arXiv推荐指数4747 Loss is Not Behavior：基于梯度的机器遗忘在输出空间的统一分析
NeurIPS 2026 接收的 arXiv 论文（arXiv:2610.38784）推导了基于梯度的机器遗忘（machine unlearning）与仅用保留数据重训模型之间输出空间差距的闭式表达式，并通过广义 Gauss-Newton 与局部线性近似扩展至非线性模型。
arXiv推荐指数6262 arXiv 论文提出 CoM 课程方法提升自动越狱发现可靠性
论文提出 Curriculum of Models（CoM）方法，通过让调查模型依次针对一系列修改版目标模型训练，从易产生目标行为的版本逐步过渡到原始目标，以解决直接对安全模型训练时奖励信号稀疏的问题。
arXiv推荐指数6868 arXiv论文：CoT依赖度随模型规模上升并饱和，后训练不改变该依赖
论文在合成box-swap任务上用精确真值测量模型对自身思维链（CoT）的依赖度：替换CoT中一步为错误但合法的状态，检查答案是否随之改变。
arXiv推荐指数6060 RoleFUZZER：用用户行为模糊测试检验 LLM 的角色规格遵循能力
论文提出 RoleFUZZER 框架，将软件测试中的覆盖引导模糊测试迁移到大语言模型，通过用户行为覆盖网格搜索可能让模型违反角色规格的用户行为。
arXiv推荐指数5858 MindEth-Bench：基于中国心理健康伦理标准的多轮交互伦理边界评测基准
论文提出 MindEth-Bench，一个评测大语言模型在多轮心理健康交互中伦理边界遵守情况的基准，依据中国心理健康服务职业伦理标准构建，使用 Monte Carlo Tree Search（MCTS）系统探索压力测试模型边界的交互轨迹。
arXiv推荐指数5656 arXiv 论文提出幻觉严格定义：区分语义错觉、编造与表达不确定性
Hazel H. Kim 等作者在 arXiv:2610.38520 论文中主张对 LLM 幻觉采用严格定义：幻觉应是自信的错误，与表达不确定性（UNK）分开；并用重测实验区分两类幻觉——若语义等价提示都无法恢复正确答案则为编造（CF），若部分可恢复则为语义错觉（SI）。
arXiv推荐指数3434 Rosemary：面向全同态加密（FHE）的高效可适配存内加速系统
Rosemary 提出一种面向全同态加密（FHE）的异构存内加速系统，通过在 NAND flash SSD 内集成可适配硬件感知 FHE 引擎、TDAP 程序分配器与 CLCAO 编译器级密文感知优化器，解决 FHE 数据在存储与计算单元间搬运的 I/O 瓶颈——研究显示现有系统 71% 至 85% 的执行时间耗费在数据搬运而非有效计算上。
arXiv推荐指数6060 arXiv 论文揭示 Tülu-3 后训练配方使 LLM 事实核查更不信任低地位职业发帖者
论文研究六个模型家族的基座与后训练检查点，发现只有开放的 Tülu-3 配方（OLMo-2 32B、Tülu-3 70B）会让模型对低地位职业发帖者的声明更倾向于判定为假，效应低于一个百分点但统计可靠，超过训练漂移并在独立声明集上复现。
arXiv推荐指数5555 arXiv 提出弱身份信号下多轮对话隐式未成年人检测框架
论文将弱身份信息下的隐式未成年人检测形式化为高风险用户属性推断任务，提出由大语言模型、Harness 与 Maker-Checker 协议组成的约束框架，控制推断触发时机、要求结构化对话证据并对 Harness 修订做版本级审查。在含 8,328 条多轮对话的受控中文基准上，该方法相比同族 LLM 直接推断，平均精度与未成年人类 F1 分别提升 7.60 和 6.37 个百分点。
arXiv推荐指数5858 AI搜索中的manifest辅助检索：证据缺口与安全评测研究
arXiv论文提出AI搜索中manifest辅助检索的安全评测框架，指出既有审计未能分离消费/llms.txt对安全与效用的增量影响。研究覆盖39个来源的非系统性审计，15工具研究在单一端点45次试验中未观察到自动请求，日志研究发现2026年5月检测到文件的域名中97%无记录请求。
arXiv推荐指数4848 DecisionUnlearn-Bench：评估概率决策模型遗忘在 Schema 变化下的表现
arXiv 论文提出 DecisionUnlearn-Bench，一个评估概率决策模型机器遗忘（machine unlearning）表现的实证框架。
arXiv推荐指数6767 Tracekit Box 论文：在 Firecracker micro-VM 中运行 AI Agent 并对每次出口决策签名
arXiv 论文提出 Tracekit Box，一个 MIT 许可的开源系统（v0），让每个 AI Agent 任务运行在独立的 Firecracker micro-VM 中且不配网卡，所有出口（命令、外连、密钥、模型调用、工作区补丁）都经 vsock 走宿主机上的签名器，由 Agent 无法触及的 Tracekit signer 决定放行内容并签名写入每盒一次的运行记录。
arXiv推荐指数3838 R-BGNN：基于循环二分图神经网络的 McEliece 密码体系 QC-MDPC 纠错解码
论文提出循环二分图神经网络（R-BGNN）作为概念验证，用于解决 McEliece 密码体系中 QC-MDPC 码的经典置信传播解码因短环导致的解码失败问题——这类失败会泄露私钥信息，构成严重安全漏洞。
arXiv推荐指数6060 arXiv 论文提出连续风险景观视角以反思 LLM 越狱评测
论文《Rethinking LLM Jailbreak Evaluation: Continuous Risk Landscapes Beyond Binary Outcomes》指出，越狱评测通常沿用二元成功指示的攻击成功率（ASR），掩盖了可能生成的周边结构。
arXiv推荐指数4343 GI-RTL-Fuzz：基于 LLM 与 BNF 语法引导的 RTL 模拟器差分模糊测试框架
GI-RTL-Fuzz 是一个利用大语言模型（LLM）生成高质量 RTL 测试用例的语法引导模糊测试框架，通过 Backus-Naur Form（BNF）语法覆盖信息引导 LLM 生成过程，探索复杂且少被测试的语言特性。该框架对不同 RTL 模拟器进行差分测试，在主流 Verilog 模拟器的 linting 过程和仿真结果中发现了大量此前未知的不一致问题。
arXiv推荐指数5858 arXiv 论文揭示 LLM Agent 修复评估器与执行者不匹配导致部署价值损失
论文《Repairs for Whom? Evaluator-Executor Mismatch in Selecting Repairs for Failed LLM Agents》研究 LLM Agent 修复方法中评估器选出的修复是否真正帮助实际执行的智能体。
arXiv推荐指数6767 arXiv论文研究编码智能体记忆文件的安全影响
论文研究了编码智能体自动加载的项目记忆文件作为攻击面的风险：攻击者可通过pull request修改记忆文件，在不接触开发者prompt的情况下引导智能体生成通过测试但存在漏洞的代码。
arXiv推荐指数6868 WebMaze：以功能耦合诱饵将 LLM Web 扫描器引入诱饵世界
arXiv 论文提出 WebMaze 防御方法，在不改变真实应用功能的前提下，将基于 LLM 的恶意 Web 扫描器引向生成的诱饵世界。作者系统研究了六个 LLM 扫描器如何收集信息并基于观察迭代选择动作，在真实页面中嵌入功能耦合陷阱，并从应用现有视图构建视图定制的交互式诱饵世界。
arXiv推荐指数4848 Right Numbers, Wrong Questions：LLM 在欠明确金融查询上的评测研究
arXiv 论文提出"frame collapse"现象，指出 LLM 金融助手在面对用户未言明的语境（数据口径、产品变体、投资者情况与适用规则）时，会给出数据中真实存在但回答了另一个问题的答案。