AWARE：仅靠外部摄像头实现机器人异常检测的世界模型框架
AWARE 是一个仅通过外部摄像头监控、无需接入机载传感器即可检测异常的世界模型框架，在 240 条真实机器人起重机轨迹（含负载碰撞与电机退化）上，异常分类效果较最强基线提升 26%。其推断出的动力学参数可被解码以定位故障源，识别退化电机的准确率达 88%。该框架面向缺乏传感器或受安全协议限制无法接入的老旧关键基础设施硬件。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
arXiv推荐指数3838 arXiv推荐指数5656 arXiv论文：LLM智能体网络中的合作行为追踪研究
论文以迭代囚徒困境（IPD）为框架，研究开源权重LLM从双人互动扩展到同质与异质网络时，个体合作是否转化为集体合作。研究发现合作行为对模型构成和细微语言变化高度敏感：能与相同模型合作的模型在混合群体中可能转向背叛；一个简单的不确定性提示可增减合作、重新分配成本，并影响数跳之外未接触该提示的智能体；甚至调换动作标签顺序也会显著改变行为，不确定性框架有时会放大这种敏感性。
arXiv推荐指数4747 Natural Language Autoencoders：识别不等于解释——NLA 重建成功标准无法验证解释忠实性
arXiv 论文指出，Natural Language Autoencoders（NLA）以"verbalizer 将激活转为英文解释、reconstructor 再将解释还原为激活"的往返重建成功作为解释有效判据，但该判据只衡量信息是否足以识别激活，并不检验解释的描述忠实性。
arXiv推荐指数3838 为自动化合规检查开发安全度量指标
一篇发表于 IFIP SEC 2026 会议论文集的论文提出了一套基于本体（ontology）的安全度量指标开发方法，用于将安全标准中的文字性要求转化为可度量的技术属性。该方法包含一个基于合规要求系统化的安全度量数据模型，以及一套度量指标提取方法论，使指标在抽象程度上具备可比性。作者还展示了其开源工作的初步成果，验证了该方法对指标协作式开发的支持。
arXiv推荐指数3838 Identity Amortization：共享资源与 Sybil 攻击的成本
arXiv 论文提出 identity amortization（身份摊销）概念：当一项资源可支撑多个身份时，Sybil 防御按名义单价校准会低估攻击者成本，最多高估 Sybil 阈值成本达该资源可支撑的身份数。
arXiv推荐指数2828 面向闭环网络化控制系统的隐蔽盗用攻击迭代行为辨识框架
提出一个数据驱动的三阶段框架，让仅能截获输入输出数据的中间人（MITM）攻击者在满足无穷范数入侵检测系统（IDS）隐蔽性约束下，迭代辨识闭环网络化控制系统的被控对象行为子空间。
arXiv推荐指数5353 AquaSense-ICS：面向智慧水质监测与攻击检测的混合真实-仿真数据集与泄漏感知基准
论文发布 AquaSense-ICS 开源数据集与基准，将 Raspberry Pi 5 边缘节点 25.4 小时记录窗口（8.0 小时实录数据、26% 覆盖率。
arXiv推荐指数6060 StateMirror：执行前检测编码智能体幻觉工具调用
arXiv 论文提出 StateMirror，一种针对编码智能体幻觉工具调用的轻量级执行前检测器。研究对 4,398 条智能体轨迹的初步分析显示，这类幻觉普遍且代价高昂，恢复中位需额外 3 步交互和 22.4K tokens。
arXiv推荐指数4545 PPFLex：基于 MPC 的联邦学习隐私保护方法，抵御梯度引导矩阵标签推断攻击
研究发现，梯度引导的联邦学习优化方法共享的引导矩阵存在隐私漏洞，恶意服务器在 Dirichlet 标签分布下可从共享矩阵推断客户端标签集，准确率达 50% 至 84%。
arXiv推荐指数3838 模型检查器辅助 LLM 的自动化多行 Bug 修复：RISC-V 处理器案例研究
一项案例研究提出结合 LLM、断言与模型检查器 JasperGold 的自动化 RTL Bug 修复方法，在 BRISC-V RISC-V 处理器上通过变异测试实现最高 98% 的单行 RTL Bug 修复率和 93% 的多行 Bug 修复率。
arXiv推荐指数5151 arXiv论文：AI编码智能体规则的六周案例研究，探讨规则与检查的持久性
论文报告了一项为期六周的案例研究，作者维护一个纯 Markdown 仓库，由三个 AI 编码智能体在共享规则集下每日编辑，记录了 118 条智能体失败及其修复与复发情况。
arXiv推荐指数3838 组织隐私氛围在 GDPR 感知与隐私工程实践之间的中介作用
一项针对 156 名美国信息系统开发者的在线调查与结构方程建模研究发现，组织隐私氛围在开发者对 GDPR 重要性的感知与隐私态度之间起中介作用，进而影响其隐私工程实践。这一"法规—氛围—态度—实践"的中介链补充了法规对实践的直接效应，揭示了监管意图抵达工程行为的组织与态度路径，对下一代隐私与 AI 监管（如 EU AI Act）具有启示意义。
arXiv推荐指数7676 MCP-Injector 论文揭示工具调用 Agent 在真实 MCP 故障下的脆弱性，规模不提升容错
论文提出 MCP-Injector，一个协议感知的故障注入中间件，可插入 MCP 工具调用路径并注入永久、瞬时、间歇三类故障，其故障模型基于 1,774 个开源 MCP 仓库的 57,240 条 issue 与 PR 讨论校准。
arXiv推荐指数4747 超越覆盖率与变异分数：LLM 生成单元测试的盲区分析（提出 BlindSpotEval 与 ObligBench）
arXiv 论文提出基于行为义务的 LLM 生成单元测试评估框架 BlindSpotEval，含 Boundary-Value Adequacy、Control-Flow Adequacy、Oracle Strength 三项指标，并发布 Java 基准 ObligBench（895 个复杂函数 + 700 个低复杂度函数）。
arXiv推荐指数6969 NTBench：面向近目标提示词注入的 LLM 与智能体鲁棒性基准
论文提出近目标提示词注入（near-target prompt injection）这一攻击类别，指注入指令诱导的响应在保留合法答案主体的同时引入错误或有害改动，并发布评测集 NTBench。
arXiv推荐指数4747 基于条件自编码器的非线性概念擦除与表征引导框架
arXiv 论文提出一种基于条件自编码器的非线性概念擦除框架，在给定假设下证明完美重建与总体层面独立足以实现完美的非线性 guardedness，并在不使用目标任务标签的情况下，在多个数据集、敏感属性和语言模型上取得优于竞争方法（含其监督变体）的效用-擦除权衡，且优化更简单、收敛显著更快。该框架还能在推理时仅改变目标概念、零额外训练成本地实现概念转换（表征引导），这是此前擦除方法不具备的能力。
arXiv推荐指数3434 Punjabi Geet Toxicity Dataset (PGT-FG)：旁遮普语歌曲毒性细粒度多模态标注数据集
研究团队发布 Punjabi Geet Toxicity Dataset (PGT-FG)，一个面向旁遮普语歌曲毒性检测的段级多模态标注数据集，最终包含 392 首歌的 2,396 个片段，其中 705 个（29.42%）被标注为有毒。
arXiv推荐指数4747 CONSTRAINTDIAL：通过协议变异终身构建智能合约安全任务
arXiv 论文提出 CONSTRAINTDIAL 框架，通过协议变异终身构建智能合约安全任务，从 203 个公开案例构造 3,045 个任务输入，覆盖 detect、exploit、patch 三类。
安全paper推荐指数6060 基于 Petri 网监督控制的 LLM Agent 工具执行认证框架论文
arXiv:2610.31376 论文（作者 Chao Gu、Quanyan Zhu）将 LLM Agent 与工具之间的执行护栏形式化为 Petri 网监督控制问题，用 token 表示能力、审批与预算，使前置条件缺失或已消耗的注入请求被机械拒绝。
安全paper推荐指数6666 RMT-Jailbreak：将自回归越狱迁移到扩散语言模型的框架
arXiv:2610.31331 提出 RMT-Jailbreak 框架，将针对自回归（AR）模型的越狱攻击迁移到扩散语言模型（dLLMs）。核心发现是给定查询的有害回答本身可作为越狱模板：只需遮蔽其部分 token，即可诱导 dLLM 通过双向上下文重建补全有害内容。
安全paper推荐指数6868 arXiv论文评估激活探针检测潜在危害是否优于模型自身拒绝行为
arXiv:2610.30727 论文在15个指令微调LLM和38个激活读取器上，测试基于激活的latent harm探针（如Latent Guard）在表面改写、说服性框架和越狱包装等分布偏移下，能否检测到超出模型自身拒绝行为之外的危害信号。