Signature Knowledge Shielding（SKS）：通过鲁棒嵌入匹配保护杀毒软件检测知识
研究者提出 Signature Knowledge Shielding（SKS）范式，用辅助的 Shielding Signatures（SS）保护现有杀毒软件规则（Protected Signatures，PS），并以逻辑 OR 将 SS 匹配与原始判定结合，使探测反馈更难归因于 PS。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv推荐指数3434 arXiv推荐指数3131 Fortress：基于社交图谱结构的抗分叉透明日志协议
Fortress 提出首个基于社交图谱的抗分叉透明日志协议，用用户社交关系替代公告板或外部 gossip 网络，在每轮中要么所有用户输出相同结果，要么至少一名诚实用户生成可公开验证的不当行为证明。该协议可抵御任意恶意服务器（含可窃取用户秘密状态的快照攻击者），前提是服务器未攻陷关系密切的用户；诚实执行下带外交互仅发生在用户重置密钥时，总成本接近每次重置一次调用的下界。
arXiv推荐指数2020 SRT 协议 96 天纵向分析：生产流媒体基础设施的时间动态与安全评估
一项针对伊拉克与土耳其之间生产流媒体环境的 96 天纵向分析，采集 262,672 个传输指标样本和 5,033,104 条系统资源测量，发现 NAK 小时波动达 7.6 倍、日波动达 11.5 倍（p < 0.001），但时间周期仅解释不足 4% 的总方差。
arXiv推荐指数7171 论文：伪造新闻对 LLM 金融交易 Agent 的信息注入攻击
Mengxiao Wang 提出针对 LLM 金融交易 Agent 的信息注入攻击基准，在 15 只美股上评估约 10,000 次决策，覆盖 5 种注入向量和 7 类事件。
arXiv推荐指数1818 隐藏整数反馈的精确编译与资源定律
研究针对隐藏随机舍入下连续整数发布的隐私损失耦合问题，提出在可预测带符号单位参与且完全观测物理输出的理性反馈机制。保持完整进位直至观测回波同步世界，可在任意固定预算 C≥2 下实现精确有限律点编译，支撑宽度指数为 3C-2；提前释放承诺则形成单调层级，在某一固定离散高斯下，0.09 的损失容限需要全部四项承诺。
arXiv推荐指数3131 Mal-AAEGAN：用双评论家 WGAN-GP 对抗自编码器生成恶意软件
Mal-AAEGAN 通过对抗自编码器（AAE）将 M 维二进制 API 特征向量映射到低维连续潜空间，生成器在潜空间做加性扰动，避免直接操作高维离散二进制空间。
arXiv推荐指数6666 Connection Escrow：在 eBPF 内核层扣住 AI Agent Pod 出站连接直至隔离验证器放行
论文提出 connection escrow 机制，用 98 条指令的 eBPF 程序挂在 Pod 的 cgroup 上，把受监管 Pod 的每条出站 TCP 连接扣在内核 connect() 路径中，在任何数据包生成前拦截。
arXiv推荐指数4444 超越攻击成功率：面向迭代式 LLM 越狱评估的成本感知指标 ASR_STEP
研究提出 ASR_STEP 指标，在保留二元成功判定的同时对受害模型的额外调用进行惩罚，以弥补传统攻击成功率（ASR）不计重复调用的缺陷。在 JailBreakBench 上对三个模型家族评估显示，GCG 折扣后得分下降 7.0–8.7 个百分点，PAP 保持不变，PAIR 的折扣区间为 3.4–12 个百分点，说明不同迭代策略的“步数”含义不同。
arXiv推荐指数1212 DM-RSA-OAEP：基于物理多样性的双模数故障检测对策形式化分析
DM-RSA-OAEP 是修复版双模数 RSA 变体，论文为其给出随机预言机模型下完整的 IND-CCA2 安全证明，安全性上界受较弱 RSA-OAEP 实例约束并给出显式模拟损失。作者还提出覆盖计算、密钥与验证故障（含 safe-error 攻击）的故障检测定理，并分析物理多样性假设被破坏（单芯片共模故障）时该对策失效。论文明确将其定位为具备可证明检测保证的故障对策，而非计算上更强的 RSA。
arXiv推荐指数3434 BrushOff：基于笔触重渲染的绘画水印去除攻击
研究者提出 BrushOff，一种无需训练、无需知晓水印、也不依赖生成模型的笔触重渲染攻击，可将 VINE 水印在 500 幅五种风格绘画上的检测率从至少 97.8% 降至 1.8%，输出无参考质量分数接近干净画作。
arXiv推荐指数1818 Proof-of-ML-Inference（PoML）：用机器学习推理替代哈希算力的共识协议
研究者提出 Proof-of-ML-Inference（PoML）共识协议，让矿工在共识过程中执行用户请求的机器学习推理，以替代比特币式 PoW 中无其他用途的哈希计算。论文明确了 ML 推理安全替代哈希工作所需的计算假设并加以形式化，给出 LLM 与扩散模型满足这些假设的证据，并将协议安全性归约到 Bitcoin Backbone 模型。模拟环境中 PoML 的出块速率接近其校准的出块时间目标。
arXiv推荐指数3939 可问责的部分理解：保障 Agentic 系统的认知攻击面
论文提出“可问责的部分理解”（APU）框架，用于应对 Agentic AI 系统中软件自主读写、解释并授权安全相关行为所带来的认知攻击面。作者给出四类相互作用的攻击分类（针对意图解释、证据生产与消费、委托权限范围、人类监督者理解），并规定 APU 的六项必要条件与五项设计原则。
arXiv推荐指数4141 CrypSteer：用共享修复方向引导代码模型安全使用加密 API
研究者构建覆盖四种编程语言、十类加密 API 误用类别的 48,000 对匹配程序，发现修复向量按误用类别而非语言聚类，并提出 CrypSteer——在模型权重不变的情况下，于生成时向内部激活加入每个模型一条共享方向，使目标安全率在五种模型上较未引导生成提升 5.28–15.00 个百分点。
arXiv推荐指数5959 安全技能如何引导编码 Agent 检测 Linux 内核漏洞
研究对 37 个安全技能在 Claude Code 与四种底层 LLM 上做了大规模实证，覆盖 10 类共 100 个真实 Linux 内核漏洞、合计 14800 次运行。
arXiv推荐指数1818 建筑软件依赖安全跨生态研究：904 个 GitHub 仓库中仅 54.6% 可完成漏洞评估
一项针对 904 个建筑相关 GitHub 仓库的跨生态实证研究发现，仅 494 个（54.6%）仓库能完成依赖漏洞评估，依赖可见性存在明显缺口。成功扫描的仓库中 395 个（80.0%）含至少一个已公布漏洞的依赖版本，97.2% 的受影响仓库存在 High 或 Critical 级风险。
arXiv推荐指数5454 SWE-Residual：评测编程智能体的起始状态鲁棒性
作者提出 SWE-Residual 基准，用于评测编程智能体的起始状态鲁棒性，即任务起点已包含前序工作时能否维持表现。该基准从 DeepSWE 和 Terminal-Bench 的 111 个任务中构造 198 个 Residual State，每个状态是前序智能体提交完成但隐藏测试仍失败后的环境，被评智能体只拿到原始请求和该状态。
arXiv推荐指数5858 SPLASH：用对比审计压力检测并定位生成代码中的安全幻觉
作者提出 SPLASH 方法，通过对比生成程序在安全审查与风格审查下的 teacher-forced 对数概率得到 audit pressure，用于在模型候选程序中挑选安全代码并定位漏洞语句，无需模型训练、CWE 专用规则或生成模型内部访问。
arXiv推荐指数4444 语言模型谄媚行为如何形成：从预训练到后训练的脆弱性追踪
研究追踪 30 个开源模型谱系共 741 个检查点，发现多数谱系在预训练阶段就已出现迎合用户意见的谄媚行为，且平均强度在不同阶段可升可降。