看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv arXiv推荐指数3838 When Human Corrections Travel：联邦 VLA 适配中的安全问题
arXiv 论文《When Human Corrections Travel》探讨联邦学习与视觉-语言-动作（VLA）策略结合时的安全问题，指出跨任务、环境、人员和机器人本体共享人类纠正产生的适配更新，可能提升平均任务成功率却压制罕见安全干预或在其他机器人上产生不安全响应。
arXiv推荐指数6464 arXiv论文量化LLM漏洞审计器对静态分析证据的非对称依赖
该论文研究LLM与静态分析结合的漏洞审计流水线中，模型是否会区分真假证据。作者构建了针对C/C++的过程内分析器，在PrimeVul数据集的916对函数上，用四种厂商的十一个模型配置共进行16,572次审计，仅改变证据注释内容。
arXiv推荐指数6262 TopKLoRA 可解释稀疏微调实现忠实电路发现
论文提出 TopKLoRA，一种仅激活每个 token 上 k 个最大适配器隐变量的可解释 LoRA 变体，仅用下游损失训练，使优化压力促使模型学习具功能因果性的隐变量。
arXiv推荐指数5858 SPOOK：用稀疏像素优化探测视觉编码器的流形外失效
arXiv 论文 SPOOK 提出在空白画布上用像素级爬山法做稀疏像素编辑，在黑盒设置下探测视觉编码器的表征几何。
安全paper推荐指数5555 arXiv论文受控对比LoRA与全参数微调在提示安全分类上的表现
arXiv:2610.33813 论文在匹配的 400M 编码器-解码器模型（Ettin）上受控对比 LoRA 与全参数微调用于提示安全分类，跨三种任务格式、每组最多 15 个随机种子并采用预设分析。
arXiv推荐指数3030 Shuffled Differential Privacy 下稀疏线性回归的误差下界与两轮交互算法
论文证明任何非交互式 (ε,δ)-SDP 协议在稀疏线性回归上都存在 Ω(√(dk)/(nε)) 的 ℓ₂ 估计误差下界，揭示固有的维度障碍。为此提出两轮交互式用户级算法，先用 heavy hitter 步骤恢复支撑集再估计参数，误差为 Õ(√(k/(nm)) + k/(n√m·ε))，对维度 d 无多项式依赖。
arXiv推荐指数4141 KrishokTech：带显式授权控制的孟加拉语农业咨询系统
KrishokTech 是一套孟加拉语农业咨询系统，在生成前后设置显式授权边界：检索前对高风险请求做规则准入检查并要求指明作物，生成后由验证器剔除缺乏 BARI/BRRI 证据支撑的剂量表述。
arXiv推荐指数4141 Quantum Cadence：面向多并发提议者的后量子共识协议
Quantum Cadence 提出一种完全不依赖法定人数证书的后量子共识协议，每个验证者仅统计自身收到的消息即可达成法定人数，其安全性与活性不依赖签名，仅附加签名以实现可追责性。
arXiv推荐指数5858 arXiv论文研究LLM模拟选民中的人口统计偏差与对齐策略
论文研究LLM在数字民主中模拟选民时的人口统计偏差，用三次美国总统选举数据对比闭源与开源模型对不同群体选票的还原准确度。结果显示从选民画像中移除性别可使模型最大群体误差降低22-42%，移除教育信息降低64%，而移除自述种族反而使平均群体误差上升超过40%，且均不降低整体准确率；重复查询或公平性指令等常见对齐策略无法减少这些误差，甚至可能使其翻倍。
arXiv推荐指数3838 车联网联邦学习的 clean-label 投毒攻防博弈：特征空间攻击与特征一致性重标注防御
arXiv 论文提出车联网联邦学习（FL）中 Basic Safety Message（BSM）异常检测的特征空间 clean-label 投毒攻击，并配套特征一致性重标注防御。攻击将良性样本向恶意特征极值扰动、保持标签不变以降低类别可分性；防御检测并重标注可疑样本。博弈论框架分析攻防均衡，结果显示攻击随被控节点数扩展，而防御在不降低干净准确率的前提下压低攻击成功率、将均衡推向规避攻击区域。