arXiv 提出可回退交互证明 RIP 用于高效可扩展监督
论文提出可回退交互证明（Rewindable Interactive Proofs, RIPs）这一面向可扩展监督的新型相对化交互证明模型，验证方可将证明者回退到交互早期状态并继续，适用于证明者为 AI 模型、其状态可被快照保存的场景。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 15 条 · 更新于 15:25
arXiv推荐指数5151 arXiv推荐指数3434 AI 知识蒸馏中的信息论可靠性—安全边界与有限对齐动力学
arXiv 论文提出一个与具体模型形式无关的可靠性—安全普适权衡不等式，其边界仅由隐层区分良性与有害输入能力的单一参数 Kh 决定。作者构建 Boltzmann 机响应行为模型，得到由危险判别容量 K 决定权衡曲线、由整体作答倾向决定曲线上工作点的两条精确关系，并称与现有实验数据吻合。
arXiv推荐指数4747 Loss is Not Behavior：基于梯度的机器遗忘在输出空间的统一分析
NeurIPS 2026 接收的 arXiv 论文（arXiv:2610.38784）推导了基于梯度的机器遗忘（machine unlearning）与仅用保留数据重训模型之间输出空间差距的闭式表达式，并通过广义 Gauss-Newton 与局部线性近似扩展至非线性模型。
arXiv推荐指数4646 云边端 IoT 系统中可信分布式机器学习：异构性视角下的安全、隐私与鲁棒性综述
arXiv 发布一篇以安全为中心、面向异构性的可信分布式机器学习（DML）综述，将联邦学习（FL）作为高风险案例，系统梳理云边端 IoT 场景下的资产、对手、信任假设与协同模式。
arXiv推荐指数3131 CA-DPSGD：用近似二阶信息缓解 DPSGD 的梯度裁剪偏差
论文提出 CA-DPSGD 框架，利用近似二阶信息构建曲率感知的最优裁剪空间，并结合曲率矩阵修正估计器与各向异性噪声机制保证差分隐私（DP）保证，实验表明其优于现有最先进裁剪方法。该工作已被第 18 届机器学习优化国际研讨会（OPT 2026）接收。
arXiv推荐指数2424 基于偏好反馈的差分隐私稀疏奖励估计
研究提出 Private Sparse RLHF 框架，在 Bradley-Terry-Luce 模型下首次给出差分隐私稀疏奖励估计的理论框架，并针对 Sample-DP 与 Label-DP 两种设置设计高效算法。
arXiv推荐指数3131 扩散模型敏感度几何与强对偶：实现最优隐私-效用权衡
研究提出面向理想扩散去噪器的最优隐私-效用权衡框架，用精确敏感度刻画替代保守的直径式敏感度上界，并给出可证明最优的噪声校准。最坏情况敏感度仅需两条记录即可精确刻画，数据域大小为 m 时分析约束最多降至 m(m-1) 个，且可任意紧于传统上界。该工作还给出 Rényi、近似与高斯差分隐私的精确保证，并通过半定规划计算最小加权均方误差、证明强对偶以提供全局最优性证书。
arXiv推荐指数1818 对 Datta-Komargodski-Waters 去中心化多授权 ABE 方案的密码分析与修复
研究者对 Datta、Komargodski 与 Waters 发表于 Journal of Cryptology 2023 的去中心化多授权属性基加密（ABE）方案提出明文恢复攻击，在仅一个腐败授权方、两个用户属性集即便合并腐败授权方属性仍不满足授权条件的静态模型下即可成功。
arXiv推荐指数2020 PQ-Vault：为未修改的以太坊提供可证明量子安全的资产托管
PQ-Vault 是一套面向未修改以太坊的资产托管系统，由量子安全 PoS 侧链、紧凑证书与乐观争议协议组成，要求资金转入仅依赖量子安全原语的合约。研究首次给出紧凑证书抗量子攻击的安全证明，并发现经典参数下安全强度从 128 位降至约 60 位，一条简单规则即可恢复。
arXiv推荐指数1818 结合紧凑共享与预处理：Big Secrets Small Shares 重新审视安全多方计算
论文将 Damgård-Nielsen 的预处理方法与 Cramer-Damgård-de Haan 的 ramp 秘密共享思路结合，提出紧凑共享（compact sharing）方案，在多阶段 MPC 中实现通信开销的非渐近降低。
arXiv推荐指数3232 扩散模型采样阶段的隐私核算：可裁剪经验去噪器与混合采样器
研究提出一种免训练的可裁剪经验去噪器，作为贝叶斯最优去噪器的估计器，其单步敏感度可显式计算，使每个去噪步骤构成高斯机制，从而在 Gaussian DP 与 f-DP 框架下完成采样阶段的隐私核算。
arXiv推荐指数5858 Proof-Carrying Contracts：让 AI Agent 无法违反的约束证明框架
论文提出 Proof-Carrying Contracts（PC2）框架，要求 AI Agent 在执行请求操作前提交可机器校验的证明，证明其在模型允许的所有情形下都保持约定约束，由名为 Airlock 的执行系统校验证明并控制操作访问。
arXiv推荐指数6060 研究显示辩论能提升人类判断准确率，但弱AI模型无法自我纠错
arXiv 论文《Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not》研究 AI Safety via Debate 协议能否让人类与 LLM 监督者在存在先验信念的情况下接近真相。
arXiv推荐指数1818 隐藏整数反馈的精确编译与资源定律
研究针对隐藏随机舍入下连续整数发布的隐私损失耦合问题，提出在可预测带符号单位参与且完全观测物理输出的理性反馈机制。保持完整进位直至观测回波同步世界，可在任意固定预算 C≥2 下实现精确有限律点编译，支撑宽度指数为 3C-2；提前释放承诺则形成单调层级，在某一固定离散高斯下，0.09 的损失容限需要全部四项承诺。