arXiv 论文提出 Agentic Process Evidence 协议，为 AI 编码智能体提供可追溯的签名证据
论文提出 Agentic Process Evidence（APE），一种对智能体过程进行签名、防篡改、机器可读的证明机制，将智能体会话与其产出结果关联（process-aware logging），以应对 AI 编码智能体在 SDLC 中带来的供应链风险、策略护栏与任务对齐三类问题。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 14 条 · 更新于 15:35
arXiv推荐指数5151 arXiv推荐指数3838 STAR：基于 TEE 的可扩展匿名速率限制器
STAR 利用服务端可信执行环境（TEE）实现可扩展的匿名速率限制，在抵御 TLS/HTTP 洪水攻击的同时保护用户隐私，无需假设服务方与权威机构不串通。针对恶意服务通过内存访问模式推断用户密钥的威胁，STAR 采用针对密钥相关内存访问的反制措施并以动态分析评估实现，另设计安全分片机制分发客户端请求。
arXiv推荐指数3535 基于 DIO/ODI 的 Agentic Entity Resolution 授权护栏：约束提交边界
arXiv 论文提出一种基于 Digital Identity Optimization（DIO）与 Ontology of Digital Identity（ODI）的授权护栏规范，为 Agentic Entity Resolution 系统在证据推理与持久化身份变更提交之间划定授权边界。
arXiv推荐指数3838 When Human Corrections Travel：联邦 VLA 适配中的安全问题
arXiv 论文《When Human Corrections Travel》探讨联邦学习与视觉-语言-动作（VLA）策略结合时的安全问题，指出跨任务、环境、人员和机器人本体共享人类纠正产生的适配更新，可能提升平均任务成功率却压制罕见安全干预或在其他机器人上产生不安全响应。
arXiv推荐指数3838 可争议智能体（Contestable Agents）用于数据治理：记录人类对 AI 生成元数据的管理
arXiv 论文提出"可争议治理"（contestable governance）模式，由专业智能体为有争议的元数据决策生成带评分和引用的论证，数据管理员可在提交前接受、拒绝、修改或补充论证，治理记录保留证据、干预与结果。
arXiv推荐指数4343 无需重训练的隐私审计：Shift-aware score transport 方法（arXiv:2610.31549）
arXiv 论文提出 Shift-aware score transport 方法，在审计者无法插入 canary、控制数据或重训练目标模型的观测式隐私审计场景下，利用分布外（OOD）非成员数据估计反事实的分布内非成员分数分布，缓解分布偏移导致的成员推断分数偏差。
arXiv推荐指数4343 Beyond Policy Engines：绑定完备的执行准入（BCEAC）框架
arXiv 论文提出 Binding-Complete Execution Admission Contract（BCEAC），指出策略引擎给出 ALLOW 决定并不等于治理来源完整参与、上下文精确绑定或具备执行准入依据，并将治理解析、策略评估、独立准入校验与下游执行中介分离。
安全paper推荐指数5555 KNOX：面向生成式模型的硬件辅助监管沙箱
Vasisht Duddu、Adam Caulfield、Xi He 在 arXiv:2610.27543 提出 KNOX，一个在 TEE 内运行生成式与 Agent 工作负载的监管沙箱，在保护模型权重的同时按经证明的策略清单约束可用法规、工具调用与系统调用。
arXiv推荐指数4040 AI 流水线中的保障证据复用：有效性条件、fail-closed 发布门禁与 714 条公开 DVC 流水线回放
研究提出签名证据记录的有效性条件与 fail-closed 发布门禁，用 Ed25519 数字签名实现的参考门禁在 9 个操纵场景中拦截 8 个，而仅验证签名的门禁只拦截 3 个、信任 planner 的门禁仅 1 个。
arXiv推荐指数5858 KNOX：面向生成模型的硬件辅助监管沙箱
论文提出 KNOX，将 AI 工作负载运行在 TEE 内以构建监管沙箱，并针对给定用户提示生成受证实的策略清单，列出适用法规、预期工具调用与允许的系统调用。执行器执行动作前，受证实的参考监视器会将其与策略清单比对，仅在匹配时放行，每个动作与判定都记入受证实的执行图供监管方核验。作者称 KNOX 满足合规、保密、可证实与可扩展四项要求，能检查法规合规性与提示词注入等导致的行为偏离，开销低于 1%。
arXiv推荐指数2020 面向电网边缘 OT 网络的延迟中性被动网络安全监控：OTSV 框架实测延迟差小于 0.12 毫秒
研究验证了 Operational Technology Supervisor（OTSV）三层被动监控框架在电网边缘时序敏感网络中实现延迟中性安全监控的可行性。
arXiv推荐指数3131 用数字孪生与 CSVSS 量化 ICS 网络社会影响，LLM 仅做首轮分析
一篇论文提出将数字孪生与 Cyber-Social Security 模型结合，用 Mininet 和 MiniCPS 构建虚拟化 ICS 环境模拟攻击场景。其核心是 Cyber-Social Vulnerability Scoring System（CSVSS），在 CVSS 基础上增加基于 Entity 与 Place 支柱的社会影响维度，输出单一可复现的严重性评分。
arXiv推荐指数3131 Fortress：基于社交图谱结构的抗分叉透明日志协议
Fortress 提出首个基于社交图谱的抗分叉透明日志协议，用用户社交关系替代公告板或外部 gossip 网络，在每轮中要么所有用户输出相同结果，要么至少一名诚实用户生成可公开验证的不当行为证明。该协议可抵御任意恶意服务器（含可窃取用户秘密状态的快照攻击者），前提是服务器未攻陷关系密切的用户；诚实执行下带外交互仅发生在用户重置密钥时，总成本接近每次重置一次调用的下界。
arXiv推荐指数3939 可问责的部分理解：保障 Agentic 系统的认知攻击面
论文提出“可问责的部分理解”（APU）框架，用于应对 Agentic AI 系统中软件自主读写、解释并授权安全相关行为所带来的认知攻击面。作者给出四类相互作用的攻击分类（针对意图解释、证据生产与消费、委托权限范围、人类监督者理解），并规定 APU 的六项必要条件与五项设计原则。