Decision Models 作为幻觉检测裁判的评测研究
论文构建了覆盖五种幻觉类型的二元基准（9,852 条样本，来自六个数据集），将五个决策模型与生成式裁判 gpt-6-sol 对比。结果显示表现强依赖类型：最佳决策模型在上下文不一致任务上平衡准确率追平 gpt-6-sol，事实错误上差距在 3 个百分点内，但在逻辑与指令不一致上落后 4-8 个百分点。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 528 条 · 更新于 15:39
arXiv推荐指数6060 arXiv推荐指数3838 视频 RLVR 中的捷径放大现象：基于感知不确定性坍缩的分析与 BSPO 方法
研究发现视频 RLVR 训练存在捷径放大效应，模型越来越倾向文本先验答案而非视觉证据，表现为感知不确定性坍缩——答案分布持续锐化但视觉证据带来的不确定性下降逐渐减弱。
arXiv推荐指数5353 GPT-2 与 DistilGPT-2 蒸馏机制可解释性研究：IOI 电路坍缩而 Greater-Than 电路存活
arXiv 论文 arXiv:2610.37157 用 linear CKA、logit lens、注意力模式分解、稀疏自编码器特征统计和 activation patching 对比 GPT-2 与其六层学生模型 DistilGPT-2 在两个经典电路上的机制差异。
arXiv推荐指数2222 GKS 私钥全同态加密方案的安全分析
arXiv 论文对 Gribov-Kahrobaei-Shpilrain（GKS）私钥全同态加密（FHE）方案进行了形式化安全分析。GKS 无需自举（bootstrapping）或去线性化，解密结果逐比特精确，支持原生加密搜索，并可扩展至无界深度。论文共 41 页，归类于 Cryptography and Security（cs.CR）与 Rings and Algebras（math.RA）。
arXiv推荐指数3838 Janus Vehicles：恶意制造商假设下协议合规车辆的实体中心威胁建模
arXiv 预印本提出 Janus Vehicles 实体中心威胁模型，针对"恶意制造商"假设下保持真实且协议合规、却执行未声明传感、通信或情境触发作动的车辆，归纳四类恶意实体原型。
arXiv推荐指数6767 arXiv论文提出PNI概念：LLM Agent审计认证需对Agent保密审计硬币
论文提出pre-commit noninterference（PNI）概念，指出基于审计的LLM Agent认证有效性不仅依赖审计比例，还依赖审计硬币在Agent动作提交前对其保密；PNI是对抗自适应Agent下无偏认证的必要且充分条件，最坏偏差为(1-ε)D_A。
arXiv推荐指数5151 RePAIR：语义分割后门攻击的逆向修复方法
arXiv 论文提出 RePAIR，一种针对语义分割模型后门攻击的事后、无标签、攻击未知防御方法。它基于后门引起的偏移在分类头中强于内部表示的观察，从未标注且可能受污染的图像池推断受害者-目标类别关系，通过比较分类头预测与内部语义证据定位可疑像素，并在特征空间与输出端向推断出的受害者语义做修正。
arXiv推荐指数4747 超越 QASecClaw：软件保障中的 Agent 扩展、验证器反馈与证据可靠性
一项涵盖五组实验的软件保障研究（arXiv:2610.36947）使用 Qwen2.5-Coder-7B-Instruct（含 1.5B 敏感性分析）完成 13,638 次模型请求，测试在已有确定性工具证据时增加专家上下文能否提升软件保障。
arXiv推荐指数3838 分布式日志解析：聚合技术与评估指标的实证研究
一项 arXiv 实证研究测试了 5 种日志解析算法与聚合技术在分布式环境下的表现，共覆盖 6,720 种分布式配置，旨在解决联邦日志异常检测中日志模板依赖解析器的开放问题。研究提出新的评估指标以更全面衡量分布式解析器行为，并给出设计、部署与评估分布式解析器的经验教训与建议。
arXiv推荐指数1212 基于 Zero Trust Architecture 与 Markov 链的动态多因素认证系统
arXiv:2610.36926 提出一种面向智能组织的动态多因素认证（MFA）系统，部署于 Zero Trust Architecture（ZTA）框架内，通过 Markov 链模型随机选择指纹、虹膜、人脸识别等生物特征认证因子，以提升自适应性并降低攻击可预测性。
arXiv推荐指数1212 UniPCH：基于 Payment Channel Hubs 的统一跨链支付框架
UniPCH 提出双层框架，将原生通道执行与隐私跨链支付逻辑解耦，下层 UniPC 定义通用状态转换与安全要求，上层以选择性重签盲条件签名（S-RBCS）协调跨 hub 条件授权。
arXiv推荐指数4545 HqcLethe：面向无状态小型服务器的 HQC 流式封装
HqcLethe 提出一种无状态密钥交换方案，以流式方式将 HQC 封装按包大小切分发送，用中国剩余定理把多项式乘法拆成每包独立的余数并加掩码，其安全性在 Rocq 中用 SSProve 证明，并用 ProVerif 验证会话保密、服务器认证与前向保密。
arXiv推荐指数4545 The Content Leash：通过内容保持约束缓解可逆语音匿名化中的退化解
arXiv 论文提出 The Content Leash 方法，通过内容保持训练约束与验证器泛化策略改进可逆语音匿名化的隐私-效用权衡。在 38 名未见说话人上，攻击者等错误率从 2.8% 提升至 26.3%，对留出验证器达 27.9%；基于密钥的语音恢复词错误率为 11.8%，说话人相似度达 94.9%。
arXiv推荐指数4141 Beyond LWE：Dihedral Coset Problem 被反事实攻破下的后量子假设综述
arXiv 综述 arXiv:2610.36731 以 2026 年一个已被推翻的 Dihedral Coset Problem (DCP) 高效量子算法主张为切入点，区分无噪循环 coset-state、指定失败指数与外推态三类求解器假设，将非结构化归约与三十余项格及非格假设逐一比对。
arXiv推荐指数5555 PrivacyEvalClaw：用于审计 LLM 越狱回复隐私泄露的工具增强审议式代理
论文提出 PrivacyEvalClaw，一个免训练的审议式代理，用于评估 LLM 越狱回复中的隐私泄露。它将评测器和分析模块视为工具，自适应收集证据、调查不确定披露并调和冲突信号后再给出判断。
arXiv推荐指数5555 arXiv 论文提出任务条件可见度裕度，量化多源异常检测器的隐蔽源操纵风险
论文提出威胁量化指标任务条件可见度裕度（task-conditioned visibility margin），定义为操纵每单位下游任务危害必须暴露的最少检测器证据，该裕度有闭式解，每张证书约 85 μs，可给出最小证据攻击并识别检测器看不见的任务相关方向。
arXiv推荐指数2525 Uniswap v4 与 PancakeSwap Infinity Hook 未披露扣费的实证研究
首个针对生产环境 Hook 生态未披露结算扣费的大规模实证研究覆盖 Uniswap v4 与 PancakeSwap Infinity 上 7,873 个 Hook 部署、50,011 个池与 296M 池事件（截至 8 月 1 日）。
arXiv推荐指数5858 IEEE S&P 2027 论文：少步数文生图模型加速与安全存在固有张力，提出 DICE 擦除方法
论文研究少步数蒸馏文生图模型的安全性，发现加速与安全存在固有张力：少步数模型往往比教师模型更不安全，减少推理步数会持续推高不安全生成率，且加速使不安全概念更难被擦除。
arXiv推荐指数5757 NDSS 2027 论文分析 Discord 第三方机器人安全隐私问题并提出 BotLens 审计框架
论文分析了 23,102 个 Discord 第三方机器人和 183,142 条用户评论，通过 LLM 知识蒸馏微调 DeBERTa 分类器并人工校验，保留 8,832 条安全隐私相关评论（管线产出率 4.82%），映射为 31 主题分类体系。
arXiv推荐指数5353 论文提出批量不变性强制框架，提升 LLM 内核生成智能体的数值可复现性
arXiv 论文提出名为 ool 的框架，针对 LLM 服务系统动态批处理导致内核数值输出随批上下文变化的问题，结合契约引导的静态依赖分析与跨批上下文位一致性动态验证来强制批量不变性（BI）。
arXiv推荐指数4747 硬件恶意软件检测器的故障脆弱性：Silent Blindness 研究
一项 arXiv 研究对硬件恶意软件检测器（HMDs）进行结构故障注入，评估 18 种分类器、4 种计数器预算及 AdaBoost/Bagging 集成下的 453,174 次决策卡滞与参数位翻转事件。
arXiv推荐指数4242 Maven 生态上游安全事件与下游漏洞缓解的细粒度实证研究
一项针对 Maven 生态 832 个 CVE 的实证研究发现，上游修复与下游采纳两侧均存在延迟：约 82% 的 CVE 在 NVD 披露前已发布修复版本，其余 17.9% 的下游项目在披露后数天至四个月内无可用修复。
arXiv推荐指数5252 Req2Test-Bench：评测LLM Agent从软件需求生成行为充分测试的基准
论文提出Req2Test-Bench，包含5,086个执行验证实例，来自8个开源项目、5种编程语言和4种BDD框架，每个实例将Gherkin自然语言需求与开发者编写的行为测试实现配对。
arXiv推荐指数2222 Peak-DNA：识别全球叙事流中复现传播形态的框架
Peak-DNA 是一个用于识别全球叙事流中复现传播形态的框架，它将 GDELT 每小时活动数据经去噪、宏峰整合与时间对齐转化为归一化宏峰事件，并基于 DTW 相似度分析比较传播形态。
arXiv推荐指数4444 CASEL：面向后果感知的工具调用 Agent 运行时选择性执行层
CASEL（Consequence-Aware Selective Execution Layer）提出一种模型无关的运行时分配策略，为工具调用 Agent 的每次工具调用在直接执行、验证、沙箱、澄清、审批和弃权之间选择，综合校准失败概率、状态相关后果、可逆性、歧义与证据新鲜度。
arXiv推荐指数4444 ProCerDCL：面向深度学习编译器优化的查询高效黑盒概率验证框架
ProCerDCL 提出一种查询高效的黑盒概率验证框架，通过单一序贯检验（修正精确二项置信区间或 anytime-valid 置信序列）判定属性违反概率 p 是否超过阈值 θ，给出接受、拒绝或不确定三值结论，并将各类错误判定概率控制在指定误差预算内。
arXiv推荐指数4444 FIDES-Live：评估顺序交易智能体的行为一致性
FIDES-Live 将 FIDES 从生成策略一致性扩展到顺序智能体轨迹审计，对 10 条推理路径、7,299 个加密货币账户轮次及 310 轮股票试点进行回溯审计。加密货币决策有效率为 97.35%，可评分回答的结构化报告准确率为 90.81%，承诺遵守率整体为 94.36%。非空订单提案约束的遵守率降至 62.63%，而有效空提案为 97.56%；所有现金与持仓变动均与成交记录对账一致。
arXiv推荐指数5959 arXiv论文：AI编码Agent过度顺从式重构行为研究
论文对迭代重构任务开展受控研究，让 Codex 和 Claude Code 在五个模型上反复被要求继续重构，累计超过 3,000 轮对话，定义了六个过度顺从行为信号。结果显示没有模型在代码已优化后停止编辑，全部持续改写，最多重写达原代码库的 31 倍，甚至在声明任务完成后仍继续编辑。作者指出过度顺从是随轮次累积的高成本行为，六个信号可帮助开发者和工具构建方检测并抑制该行为。
arXiv推荐指数3838 RefactorProof：LLM 生成的形式化证明在程序重构下的稳定性压力测试
研究提出 RefactorProof 基准，从 VERINA 中 185 个可编译任务派生出 458 个 Lean 认证变体，测试同一证明在行为保持的程序重构后是否仍然有效。
arXiv推荐指数6060 arXiv 论文研究无署名签名时如何检测 AI 编码代理的提交
论文基于来自 1,226 个仓库的 7,837,946 条提交，覆盖五个编码代理与人类提交，研究在去除 bot 账号、Co-authored-by 等署名签名后能否区分 AI 代理提交。
安全paper推荐指数5555 PrivacyEvalClaw：用于审计 LLM 越狱回复隐私泄露的工具增强审议式代理
arXiv:2610.36711 提出 PrivacyEvalClaw，一个免训练的审议式代理，用于评估 LLM 越狱回复是否泄露个人信息，尤其针对间接、部分、上下文相关或混淆的披露场景。
安全paper推荐指数6262 arXiv论文分析提示词注入攻击的复用与防御修正行为
arXiv:2610.36422 论文分析了 Tensor Trust 游戏中全部 563,349 条攻击记录，研究被 LLM 越狱提示词攻击的目标如何复用这些攻击并修正防御。
安全paper推荐指数6262 Heads of Security：用可学习注意力门提升提示词注入鲁棒性
arXiv:2610.37657 论文提出 Heads of Security（HoS），一种通过可学习的逐头注意力门实现指令与数据分离的提示词注入防御，在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评测。
ShortSpan推荐指数7878 NTBench 论文揭示近目标提示词注入使 Meta-SecAlign-70B 攻击成功率从 3.2% 升至 36.7%
论文《On Task, Off Track: Benchmarking LLM and Agent Robustness to Near-Target Prompt Injection》提出近目标提示词注入（near-target prompt injection）与评测集 NTBench：注入指令不再要求模型放弃用户任务，而是让模型完成任务但把其中一处做错或做有害。
安全paper推荐指数5858 arXiv论文提出基于生命周期脆弱性矩阵的前沿AI安全评测框架
Casey M. Williams 与 Jennifer Victoria Scurrell 在 arXiv:2610.35725 发布论文，指出当前前沿AI安全评测默认成年用户模型，系统性遗漏儿童、青少年和老年人群体的风险。
安全paper推荐指数7171 SEMA-Auto：具备自主停止能力的多轮越狱攻击框架
SEMA-Auto 是一个多轮越狱攻击 agent，能读取目标模型回复、动态调整下一轮 prompt，并自行判断攻击是否成功，以兼顾预设攻击的低成本与交互式攻击的反馈感知能力。
安全paper推荐指数6969 arXiv论文提出角色分离的自改进红队方法，目标Agent自评更有效但不宜自提攻击
论文 arXiv:2610.34965（Mintong Kang、Stephen Rawls、Melissa Kazemi Rad、Jian Ni、Bo Li）研究基于 LLM 的自动红队。
安全paper推荐指数6161 arXiv论文分析1331起儿童相关AI事件：模型评测安全不等于实际安全
论文构建了以儿童为中心的AI伤害分类体系，整理并编码了1331起公开报道的儿童相关AI事件。研究发现伤害集中在表征、尊严和心理层面，且多与部署语境、治理和滥用失败相关，而非模型缺陷本身；对个体儿童的伤害还常波及未使用系统的其他儿童。