RMT-Jailbreak：将自回归越狱迁移到扩散语言模型的框架
arXiv:2610.31331 提出 RMT-Jailbreak 框架，将针对自回归（AR）模型的越狱攻击迁移到扩散语言模型（dLLMs）。核心发现是给定查询的有害回答本身可作为越狱模板：只需遮蔽其部分 token，即可诱导 dLLM 通过双向上下文重建补全有害内容。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 528 条 · 更新于 15:39
安全paper推荐指数6666 安全paper推荐指数6868 arXiv论文评估激活探针检测潜在危害是否优于模型自身拒绝行为
arXiv:2610.30727 论文在15个指令微调LLM和38个激活读取器上，测试基于激活的latent harm探针（如Latent Guard）在表面改写、说服性框架和越狱包装等分布偏移下，能否检测到超出模型自身拒绝行为之外的危害信号。
arXiv推荐指数5555 MoST：基于搜索的视觉语言模型模态敏感性测试框架
论文提出 MoST，一个针对视觉语言模型（VLM）的黑盒测试框架，通过比较仅图像、仅文本和联合扰动来刻画模态敏感性，使用多目标搜索选择并组合扰动、调整其严重度，在限制图像与提示词改动幅度的同时寻求预测性能下降。
arXiv推荐指数3838 将大型 PQC KEM 嵌入 IKEv2：八种方案的性能与稳定性对比
研究系统筛选 IETF 文档并自增三种方案（含前向纠错与两种基于 QUIC 的 IKEv2 变体 QUIKE、QUIKE-composite），在同一开源代码库上实现八种方案，在 1296 种配置下完成 126 500 次握手测试，涵盖 ML-KEM、FrodoKEM 与 Classic McEliece。
arXiv推荐指数4545 DeepAVR：基于多智能体协作的自动化漏洞修复深度分析框架
DeepAVR 提出一个多智能体协作的端到端自动化漏洞修复（AVR）框架，将修复过程分解为故障定位、补丁生成、编译验证、安全验证、功能验证与补丁审查等角色，并引入补丁条件化重定位与面向根因的补丁审查。在真实 C/C++ 漏洞修复数据集 VulnLoc 上，DeepAVR 为 92.3% 的漏洞生成了正确补丁，显著优于先前方法；在 SAN2VULN 上也展现出对训练期间未见漏洞的良好泛化能力。
arXiv推荐指数6262 arXiv论文实证研究编码智能体CoT中的错误断言与错误补丁的因果关系
论文对SWE-bench Pro上四个开源推理模型的400条轨迹做实证研究，从思维链（CoT）中抽取原子断言并核验，发现任务相关推理仅覆盖18.5%的CoT token，每条轨迹平均产生191个原子断言，其中至少9.6%存在错误。
arXiv推荐指数5555 TNCS：面向代码模型的数据高效后门攻击方法
论文提出 Trigger-Neutralized Counterfactual Scoring（TNCS），通过对比触发输入与触发中和反事实输入下的评分模型输出，隔离触发器对目标行为的贡献，适用于分类与生成任务。
arXiv推荐指数3434 基于混合 TSK-FCM 集成的可解释异常检测在 BETH 数据集上实现 AUROC 0.9951
一项研究提出混合模糊集成（Hybrid Fuzzy Ensemble），在 BETH 数据集上取得 state-of-the-art AUROC 0.9951，较原始 Isolation Forest 基线提升 17.1%。
arXiv推荐指数1212 Temporal Liquidity Crossing for Blockchains: An EIP-1559 Extension for Admission Below the Base Fee（面向区块链的时间流动性交叉：允许低于 base fee 准入的 EIP-1559 扩展）
论文提出 temporal liquidity markets (TLM) 框架与一个 EIP-1559 扩展，使 provider 交易可在 base fee 下方被准入，由寻求早期区块位置的 consumer 交易出资补贴。
arXiv推荐指数4545 HiMark：面向大语言模型的分层可控多比特水印框架
HiMark 提出分层可控的多比特水印框架，通过分层候选控制机制嵌入水印，并用模型无关的证据聚合机制实现稳健提取。实验显示，在 300 token 文本中嵌入 32 比特时，HiMark 在改写攻击下的水印提取准确率达 90.01%，同时保持文本质量。
arXiv推荐指数4545 基于 GATE 投影权重谱结构的 LLM 免训练模型指纹方法
一种免训练、权重级的 LLM 模型指纹框架，从门控 FFN 中 GATE 投影权重的奇异值分布提取 GATE 谱标量特征，经深度分段池化聚合为模型级指纹，用线性 centered kernel alignment 计算相似度，无需输入样本、生成输出、前向激活或辅助验证器。
arXiv推荐指数4141 FVQKD：用 Rocq 对量子密钥分发安全性进行形式化验证
FVQKD 是一个基于 Rocq 的库，首次完成对 BB84 协议可组合有限密钥安全性的端到端机器验证证明，全程 admit-free，仅依赖 Rocq 内核与标准基础公理。
arXiv推荐指数5757 TokenTrap：通过放大 token 消耗反制 LLM 诈骗系统的防御方法
论文提出面向资源的防御方法 TokenTrap，将疑似 LLM 诈骗系统引导至良性低价值计算，同时扣留凭证、支付等可利用信息。TokenTrap 由架构特定的 token 任务库、在单 Agent、分层与扁平多 Agent 工作流间选择的路由器，以及带 token、轮次、时间与安全上限的反护栏策略组成。
arXiv推荐指数5757 Safety Probes 性能的缩放律研究：用模型规模与标注量预测探针误差
论文研究能否仅凭模型规模与标注数量提前预测安全探针性能，为此构建了 6 个规模与难度足够的新安全数据集，在 5 个模型家族的 20 个基座模型上训练 2 种探针架构，每个模型使用 32 到 10^6 条标注，以探针误差（1 - AUROC）衡量性能。
arXiv推荐指数2828 AIRO：面向工业物联网威胁检测与安全的流式机器学习框架
AIRO（Autonomous Intelligence-Driven Cybersecurity Risk Reduction System）框架结合 Apache Kafka 流式处理、攻击特征提取与机器学习推理，面向工业物联网（IIoT）实现威胁检测与响应，并通过 IP 封禁、账号暂停、流量限制等措施降低风险。
arXiv推荐指数5757 AgentTriage：面向异构 Agent 运行时的可重放安全诊断契约
论文提出 AgentTriage，一个面向异构 Agent 运行时的可重放安全诊断契约，其结论必须引用规范化运行时事件，缺少必需证据时要求弃权。运行时 overlay 规范化原生观测，确定性流水线关联调用与结果生命周期、构建带类型的溯源图并绑定证据，使诊断可在不依赖语言模型判断的情况下重算复核。
arXiv推荐指数4545 贷款审核员能否识别 AI 篡改的贷款文件？一项实证研究
一项实证研究显示，3 名贷款审核员在仅看文件的首轮审查中，对 132 份判断仅有 14 条（10.6%）指认出 AI 篡改痕迹，且全部依据是文件内标识符不一致，无一条来自视觉线索。研究基于 134 份由 47 份真实财务文件伪造的 PDF，篡改保留了金额、日期与余额。作者建议在人工审核之外补充一致性检查与独立来源核验，并指出样本仅 3 组、无真实文件对照，结论仅适用于该探索性场景。
arXiv推荐指数7070 LLVMhammer：利用Rowhammer位翻转放大LLM推理延迟与成本
论文提出LLVMhammer，首个通过在Triton编译流水线中诱导位翻转来降低LLM推理速度的Rowhammer攻击。位翻转命中性能关键优化pass后，Triton会生成功能等价但次优的GPU kernel，且因kernel被缓存到磁盘，单次成功位翻转可使后续推理持续降速；作者还构建工具Karnage自动定位可利用的位翻转位置。
arXiv推荐指数5555 MIG-COW：基于梯度分解的可迁移 Deepfake 检测器对抗攻击
论文提出对抗攻击框架 MIG-COW，通过动量积分梯度与共识正交分解结合，捕捉异构 CNN 与 ViT 检测器的共性与模型特有漏洞。在 AADD-2025 Challenge 基准上，MIG-COW 白盒攻击成功率达 99.96% 且 SSIM 感知相似度高，显著优于现有基线；但对官方黑盒目标的 ASR 仅为 7.16%，尽管总分最佳，仍凸显迁移性难题。
arXiv推荐指数1515 自适应密码学框架：桥接数论素性测试与算法优化
一篇 arXiv 论文提出自适应任意精度素性测试框架，将经典数论与机器学习模型、优化算法结合，服务于 RSA、Diffie-Hellman、ECC 等公钥密码系统的大素数生成与证明。论文分析确定性与概率性测试方法的理论基础、硬件级优化技术及量子安全熵源应用，并给出数学证明，保证素数分布有偏时的安全性。
arXiv推荐指数5757 SecLog-Bench：面向网络安全日志推理的可扩展基准发布
SecLog-Bench 是一个面向 LLM 网络安全日志推理的可扩展基准，覆盖 29 个攻击场景，支持重复执行与新场景接入，可规模化生成带攻击阶段标签的安全日志。
arXiv推荐指数5757 WildFakeToolBench：基于网络来源图像处理工具评测 AI 生成图像检测器
论文提出 WildFakeToolBench，一个由 220 个公开来源、142 个域名提炼出的 156 个可执行图像处理工具构成的评测集，每个工具保留来源证据并通过语法、执行与输出失真检查，且不使用被测检测器的反馈。
arXiv推荐指数1212 BelT 分组密码
BelT 是白俄罗斯开发的分组密码，采用 128-bit 分组、256-bit 密钥，已纳入白俄罗斯国家标准 STB 34.101.31，2007 年发布初步标准、2011 年转为正式标准。其结构为八轮，结合 Feistel 网络与 Lai-Massey 方案。论文给出密码完整描述与设计原理，并将软件性能及优化与 AES 竞赛候选算法对比。
arXiv推荐指数5252 Classic McEliece 结构化密码分析的主张、成本与证据评估
论文对近两年针对 Classic McEliece（二元 Goppa 码）的结构化攻击结果进行版本感知的批判性评估，区分已证明的区分器、条件性成本估算与实际密钥恢复。
arXiv推荐指数3333 基于 Shuffler 匿名化的演化联邦密度峰值聚类（eFDPC）
eFDPC 提出一种基于演化模糊聚类与 shuffler 匿名化的一次性联邦聚类方法，客户端仅传输经密度峰值聚类筛选的峰值而非完整本地模型，并在客户端与服务器之间引入 shuffler 层对贡献做匿名化以实现不可关联性。
arXiv推荐指数5757 多出口网络出口路由操纵导致输入隐私泄露的攻击研究
arXiv 论文提出一种针对多出口网络云部署的隐私攻击：恶意 Cloud Service Provider (CSP) 通过供应链植入被操纵的多出口网络，使携带目标敏感属性的输入高概率路由到指定出口，再依据每次查询的推理延迟推断出口索引，从而在不接触输入、输出或模型内部状态的情况下判定输入是否具备目标属性。
arXiv推荐指数6161 论文提出差分隐私图发布机制的实证审计方法与开源工具包
论文提出一套实证审计差分隐私（DP）图发布机制的方法，识别出金丝雀构造和见证统计量选择两个图特有审计设计问题，结合统计认证测试流程实现为开源 Python 工具包。
arXiv推荐指数6464 AfterDeleteBench：审计 LLM Agent 删除后信息残留的评测基准
论文提出 AfterDeleteBench，用于审计固定权重 LLM Agent 中记忆删除后信息残留问题。实验显示单次查询可从 Qwen2.5-7B-Instruct 中恢复约三分之二被删除的机密，而从未暴露的对照组恢复率为零；即使完整机密字符串缺失、仅剩分存组件，按公开组合规则在 Qwen、Mistral、Phi-3 上精确重建成功率达 62-99%。
arXiv推荐指数5656 审计学习型访问控制的手写输入构件
论文对学习型访问控制背后的两个手写构件——硬拒绝集与区域映射——进行审计，在五个公开 ABAC Lab 策略上形式化硬拒绝健全性并对多达 794,250 元组的关系做穷举检查。
arXiv推荐指数7373 AgentPhishing：面向 LLM 邮件智能体自适应钓鱼攻击的评测基准
论文提出 AgentPhishing 基准，用于评估说服性钓鱼攻击能否绕过检测并诱导 LLM 邮件智能体服从恶意请求，同时发布 PhishOpt 方法，在固定基准与真实性约束下针对单个智能体优化可复用的邮件生成技能，并用 Cialdini 说服原则分析失败策略、构建通用生成技能。
arXiv推荐指数2424 基于陪集码构造的同态加密方案
一篇 arXiv 论文提出用陪集码（coset codes）扩展基于标量消息码的同态加密构造，将 k 个消息符号打包进长度为 n 的密文向量，减少传输一条消息记录所需的密文向量数量。配套的求值码族支持公开加法与乘法运算至预设次数，方案在坐标标签可区分性假设下证明达到有界选择明文安全。论文 28 页，分类为 cs.IT 与 cs.CR。
arXiv推荐指数5656 Social-HUMINT：用 LLM 多智能体流水线量化社交平台暴露度的统一框架
论文提出 Social-HUMINT 框架，将 SOCMINT 与 Cyber-HUMINT 统一为覆盖 Cyber Threat Intelligence 生命周期的 38 项能力分类法，领域专家验证 Fleiss' κ = 0.92。
arXiv推荐指数4141 人物级差分隐私下离散分布学习的高效最优算法
论文给出人物级差分隐私（person-level DP）下批量设定离散分布学习的多项式时间算法，纯 (ε,0)-DP 下达到 n = Ō(k/(α²m)+k/(α√m·ε)+k/ε)，首次在对数因子内匹配信息论最优。近似 (ε,δ)-DP 下当 δ=2^{-Θ(k)} 时样本复杂度为 Ō(k)。算法采用 6 阶 sum-of-squares 估计器，并证明多项式 SQ 资源下更小误差阶的下界。
arXiv推荐指数5555 OP-Print：针对 on-policy 自蒸馏的成员推断攻击研究
论文提出 OP-Print，首次针对 on-policy 自蒸馏开展成员推断攻击研究，覆盖灰盒与黑盒两种威胁模型。作者发现 on-policy 自蒸馏的监督印记稀疏且结构化，集中在不确定性敏感的修正位点而非整个 rollout：灰盒场景直接聚合同一 rollout 上的师生残差修正，黑盒场景则用基于重启的输出盆地稳定性作为隐藏修正过程的可观测替代。
arXiv推荐指数6262 APEX：基于阶段引导混合规划-MCTS算法的自动化后渗透攻击链探索
论文提出 APEX 系统，将攻击链发现转化为规划问题，用阶段引导的混合 Planning-Monte Carlo Tree Search（MCTS）算法求解，把攻击动作按语义阶段组织并结合符号规划与 MCTS，以高效探索状态空间并生成多条多样化攻击链。在包含 5 台虚拟机、30 个合成问题和 291 个云实例的基准上评测，APEX 发现了已知与此前未报告的攻击链，其中包括 9 条新的权限提升路径。
ShortSpan推荐指数7474 研究评测边缘视觉语言模型对抗样本鲁棒性：失败常表现为错误框而非漏检
论文《A Unified Evaluation Framework of Physical Adversarial Robustness in the Edge VLM Era》评测紧凑视觉语言grounding模型与传统目标检测器在物理对抗样本下的表现，引入条件攻击成功率cASR指标，仅在模型仍能于灰色遮挡下定位人的图像上计分。
arXiv推荐指数4545 自主网络武器作为 AI 驱动的数字危害：平台问责框架
一项研究提出以 ARSIWA 国家责任学说为基础的平台问责架构，用 Meaningful Human Control（MHC）模型为自主网络武器（ACW）设定可闭式求解的 IHL 阈值。
arXiv推荐指数3838 自主网络武器的民主问责：立法通报框架与比较制度设计
一项研究提出在 Tripartite Attribution Framework 三个归因层级之上增加第四层非法律性民主问责层级（$A_{dem}$），要求在授权自主网络武器行动前 72 小时向立法机构通报。
arXiv推荐指数2828 FPTracer：追踪 Ethereum 上跨 DeFi、跨链桥与混币器的洗钱资金流
arXiv 论文提出 FPTracer 框架，用于追踪非法资产在 Ethereum 上跨 DeFi 协议、跨链桥和混币器的多阶段洗钱路径。该框架通过 Context-Aware Transfer Tree（CATT）恢复交易内资产流路径，训练分类器识别跨链意图交易，并结合上游洗钱网络证据分析混币器后的资金活动。
arXiv推荐指数3838 The 3DS Oracle：通过网络实施的 BIN Attack
arXiv 预印本 arXiv:2610.32206 指出 EMV 3-D Secure (3DS) 在浏览器流程中暴露的客户端可见边界会泄露授权前分类信道，使 3DS 沦为发卡行控制与持卡人状态的画像筛查渠道。