NeurIPS 2026 论文提出 Prefix Executability 协议评估工具使用 Agent 的轨迹可执行性
arXiv 论文《Prefix Executability: Evaluating Tool-Using Agents Beyond Final Success》（已被 NeurIPS 2026 接收）提出前缀可执行性（prefix executability）轨迹级评测协议。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv推荐指数6767 arXiv推荐指数5151 arXiv 论文：将确定性 CSIDH 的条件分支转为密钥恢复预言机
论文提出针对确定性 CSIDH 变体（Houben 的 deterministic CSIDH 与 OSIDH-LD）的故障攻击：确定性使每个秘密相关步骤固定在公开位置。
arXiv推荐指数4747 基于潜在坐标符号钳位的抗攻击多比特图像水印框架
一项 arXiv 研究提出训练无关的图像水印框架，利用扩散模型潜在空间的超完备性向任意图像嵌入 32–128 比特多比特载荷，适用于自然图像与 AI 生成图像。
arXiv推荐指数6262 arXiv 论文：模拟环境强化学习训练提升大模型精神科问诊表现与对话安全
论文提出在模拟环境中用多轮强化学习（RL）训练大语言模型完成结构化精神科问诊，涵盖病史采集、鉴别诊断与初步管理规划。
arXiv推荐指数4444 DYNAS：基于深度分层强化学习的动态网络渗透测试框架
DYNAS（Dynamic Network Attack Simulator）框架结合参数化大规模场景生成与有状态入侵检测响应，引入 Pen-DHRL 循环 manager–worker 策略，在 NSS 2026 被接收。
arXiv推荐指数7272 arXiv 论文：理解并缓解大模型中的角色伪装攻击
论文研究 LLM 中的角色伪装（role spoofing）攻击，即工具输出中的恶意文本（如 Agent 访问的恶意网页）利用角色混淆冒充用户。作者分析模型追踪对话中谁说了什么的机制，发现其依赖内容（语义与写作风格）和结构（控制 token 与格式）两类线索，结合伪造结构与内容的攻击成功率很高。
arXiv推荐指数4545 通过正交投影在持续 LLM 遗忘中保持效用（Continual Orthogonal Projection, COP）
论文提出 Continual Orthogonal Projection（COP），一种梯度投影方案，将每次更新限制在先前遗忘集激活子空间的正交补中，可证明保证与早期删除的一阶非干扰。
arXiv推荐指数2828 基于深度学习的行为漂移建模实现连续生物特征认证（arXiv:2610.40398）
一项 arXiv 研究提出两级击键动力学认证系统，通过持续行为漂移监测实现纵深防御：第一级用时序卷积网络（TCN）配合对比学习与基于种群的训练（PBT）做固定文本密码认证，等错误率（EER）3.77%；第二级在自由文本会话中用 4 模型深度学习集成持续监测，检测到可疑漂移即回退第一级重新认证。
arXiv推荐指数1212 RecHash：基于分段哈希纠缠链的有状态序列认证构造
RecHash 提出一种基于成对哈希链展开与认证记录历史的有状态序列认证构造，将每条记录分配到预定链段，互补位置编码各摘要块，使所有摘要可适配任意调度槽位而不依赖前序消息。
arXiv推荐指数5656 针对自回归声音克隆 TTS 模型的可解释声学特征研究
论文提出一套面向自回归声音克隆 TTS 模型的特征可解释性框架，通过稀疏自编码器（SAE）、PCA 与随机方向的稀疏探测、引导（steering）和量化自动可解释性分析，研究这类模型编码并使用哪些声学属性。
arXiv推荐指数5151 arXiv 提出可回退交互证明 RIP 用于高效可扩展监督
论文提出可回退交互证明（Rewindable Interactive Proofs, RIPs）这一面向可扩展监督的新型相对化交互证明模型，验证方可将证明者回退到交互早期状态并继续，适用于证明者为 AI 模型、其状态可被快照保存的场景。
arXiv推荐指数4242 Propose-Filter-Release：通过私有过滤将噪声缩放至典型敏感度
arXiv 论文提出差分隐私（Differential Privacy, DP）通用原语 Propose-Filter-Release（PFR），通过私有过滤输入，将仅对"典型记录"增删提供保护的机制转化为标准差分隐私机制，使噪声缩放从最坏情况敏感度降至典型敏感度。
arXiv推荐指数5151 arXiv 论文分析边缘大模型优化的隐私与安全风险
arXiv 论文《The Privacy and Security Risks of Edge LLM Optimization》指出，边缘部署大语言模型需要降低内存、计算与能耗的优化技术，但保持任务性能并不等于保持安全。作者将优化视为一种信息变换，认为它会改变模型表示、决策路径与信任边界，从而造成安全漂移（security drift）与优化引入的攻击面。
arXiv推荐指数88 区块链矿池算力调整攻击在实际收益分配机制下的分析
arXiv 论文分析了 T-PAW（含 FAW、PAW 特例）在实际部署的矿池收益分配机制 PPLNS、PROP、EXP 下的收益比，并提出无需扣留区块的 PAH 攻击。研究显示 GRP 会高估 PROP 下 T-PAW 收益最高达一个数量级、低估 EXP 下收益；PROP 对 PAH 高度脆弱，PPLNS 最不易受攻击，对 PAH 免疫且缓解 T-PAW。
arXiv推荐指数6262 arXiv 论文提出模板化多语言安全对齐数据集 MSafeTemp，覆盖 60 种语言
论文提出基于模板的可扩展增强流水线，从有害提示中提取安全模板、翻译后填入具有文化真实性的实体，生成大规模多语言拒绝与良性语料，并发布覆盖 60 种语言的 MSafeTemp 数据集。实验显示仅用英文评测会误判多语言安全：部分模型在英文失败的攻击翻译后成功，本地化变体还能暴露翻译无法覆盖的失败；模板增强安全训练数据可提升对齐多样性与质量，改善英文以外的安全表现。
arXiv推荐指数6262 扩散模型成员推断攻击的跨时间难度校准方法
arXiv 论文提出沿训练时间和扩散时间两个维度做难度校准，以改进扩散模型的成员推断攻击（MIA）。