跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选展开
共 1,382 条 · 更新于 15:39
10月20日周二
  1. CFP Directory2

    SunSecCon 安全会议公开征集演讲议题

    SunSecCon 公布征稿信息(CFP),会议定于 2027 年 4 月 1 日至 2 日在 Pasadena 线下举行,征稿截止日期为 12 月 16 日。议题方向涵盖 Linux 安全、红队、蓝队等。

  2. arXiv58

    研究:蛋白质语言模型预训练数据过滤的效果与持久性

    研究以 ESM-2 系列蛋白质语言模型为对象,考察从预训练数据中过滤病毒蛋白这一防护手段的效果与持久性。结果显示,过滤会明显削弱模型在病毒蛋白上的掩码语言建模、突变效应预测和长程接触预测表现,而非病毒蛋白性能基本保持;影响集中在感染人类的病毒蛋白上,并随模型从 8M 扩展到 3B 参数而增强,模型越大严格过滤越有效。

  3. arXiv58

    面向 ELK 的鲁棒模型生物:在漏洞检测任务中训练选择性隐瞒的模型

    作者训练模型生物在漏洞检测任务中隐瞒答案,用于实证研究“引出潜在知识”(ELK)问题。方法结合对话记录蒸馏、反提示与抗篡改训练,使模型具备选择性隐瞒、抗诱导和保留知识优势三项特性;最强模型在鲁棒性上明显优于此前模型,同时保持另两项特性。代码、模型与数据集均已公开。

  4. arXiv26

    IEEE S&P 27 研究:临终关怀中的数字隐私——照护扩张与控制力衰退

    一项被 IEEE S&P 27 接收的研究通过对 21 名临终患者、11 名家庭照护者和 8 名医生的深度访谈,揭示临终场景存在五类结构性数字隐私挑战:身体持续数字化却缺乏有效知情同意、认知衰退导致账户被非自愿代理控制、推断性数据生成超出患者认知边界、关系网络重构瓦解个体隐私边界,以及死后数据缺乏机构治理。

  5. arXiv62

    REX:将危险知识迁入 MoE 可移除专家以实现架构级安全控制

    论文提出 REX(Relocating into Removable EXperts),利用 MoE 的模块化结构新增一组可物理移除的专家,通过专家扩展、选择性梯度掩码和路由区分把危险知识从原有专家迁出并集中到新专家中,删除这些专家即可得到可公开发布的模型。

  6. arXiv22

    IPsec 的 PQC 迁移:IKEv2 中可靠复合密钥共享机制

    针对 PQC 长密钥无法装入单个 IP 包、易引发 IP 分片并导致 IKEv2 安全关联失败的问题,研究提出将经典密钥与量子密钥拼接为单一复合密钥并经 TCP 传输的 IKEv2 密钥共享机制。在 1% 丢包下握手时间比 UDP/TCP 混合机制至少优 20%,10% 丢包下优 30%,能耗在 10% 丢包下降低 29%。

  7. arXiv39

    面向 LLM 红队演练的预算化攻击调度:静态先验、语义引导与在线反馈的作用

    研究将有限尝试预算下的越狱攻击优先级问题形式化为固定攻击库上的预算化攻击调度,并在 GPT-5.2 上跨三个受害模型与三种防御设置评估四种调度策略。实验显示历史 ASR 先验能提供强初始化,但在防御引起的分布偏移下可靠性下降;语义引导在冷启动阶段稳定优于或持平静态先验调度,在线反馈则在迁移先验失效时价值凸显。语义引导与在线反馈还能部分弥补历史先验缺失,三者呈互补关系。

  8. arXiv52

    FALCON:以反例为据的智能体安全编码验证框架

    Tue Le 在 arXiv 提出 FALCON,一个以反例为据的验证框架,把攻击探索与行为验证分离,并通过被测程序的执行轨迹把两者连接起来。在测试时修复中,FALCON 在安全代码生成基准上的留出功能安全增益明显强于其他安全信号,同时保持或提升功能表现。

  9. arXiv62

    RAGLeak:RAG 系统中的供应链隐私后门攻击

    研究者提出 RAGLeak,一种将信息泄露与直接文本暴露解耦的 RAG 供应链隐私后门攻击,触发后由生成器对检索到的私密文档做可逆混淆,再由辅助 LLM 高保真还原。在三个模型家族和三个应用领域上,RAGLeak 的 ASR 最高达 100%,对正常效用影响有限,在代表性检测类防御下 ASR 最多下降 10 个百分点。该后门在干净微调后以及跨模型规模和版本仍然有效,代码已开源。

  10. arXiv58

    SUMMARK:用推理摘要通道验证托管大模型身份是否被替换

    作者提出 SUMMARK 摘要通道水印框架,用于审计托管大模型服务是否发生身份替换。该方法在部署前为每个声称的身份构建专属词表载体、训练轻量摘要适配器并校准阈值,审计时仅凭声称身份和已发布输出做带密钥的统计检验,无需访问模型内部、推理日志或路由信息。

  11. arXiv34

    NIOCIS:面向工具调用 Agent 的节点条件选项空间类型化决策下一跳路由

    NIOCIS 是一个面向工具调用 Agent 的路由层,将执行日志折叠为循环折叠动作图,由小模型单次读取校准分布、不输出文本,直接决定下一跳选项或停止。在 1,615 条生产安全运营 episode 上,类型化编码器在 3,875 个留出决策中与日志下一跳一致率 32.2%(限定声明选项内 34.9%),编码耗时 10 ms,而每次 LLM 跳转需 2.2 s。

  12. arXiv52

    SpanGuard 将指令定位与授权判断解耦,实现轻量 IPI 防御

    SpanGuard 提出把间接提示词注入(IPI)防御拆成两步:先用轻量无监督分割在异构工具输出中定位可疑指令,再由小语言模型做块级授权判断。作者指出小模型难以同时完成定位与授权判断,解耦后护栏对模型能力的要求明显降低。实验显示其攻击成功率为 0.32%,良性效用损失可忽略,且在更小的模型上仍然有效。

  13. arXiv18

    面向低层隔离安全编译证明的 blame-aware 重组方法

    针对 Abate 等人的形式化验证编译器证明技术在低层失效的问题,研究提出 blame-aware 重组(blame-aware recomposition)扩展,使隔间可完全观察彼此代码时仍能完成证明。该方法引入 overlay 语义将这类观察刻画为未定义行为,并应用于基于可编程标签引用监视器的隔间隔离机制。

  14. arXiv58

    LeakBench:审计临床建模 Agent 预测时泄漏引发的奖励黑客

    LeakBench 是一个可执行、由指南推导出的审计套件,用于检验自主临床建模 Agent 在预测时泄漏、校准、站点级评估、支持感知和决策曲线净收益上的决策。该套件结合一个已知失败结构的合成任务与两个真实数据场景(MIMIC-IV 的 43 万次住院记录、受治理的多医院住院病历首页 MHFP 数据),并以描述性方式使用奖励黑客概念,不归因意图。

  15. arXiv52

    PhantomTac:用可贴附磁标签劫持机器人触觉系统

    研究者在磁性触觉传感器中发现名为 PhantomTac 的物理层漏洞,攻击者只需在物体表面贴一枚约 0.5 mm 厚、无需供电的磁标签即可篡改传感器解读的力值,且可被条形码贴纸遮盖,属于部署后即可离开的“deploy-and-forget”攻击。