DRL 交通信号控制的最小信息黑盒虚假报告攻击
研究表明，对基于深度强化学习（DRL）的交通信号控制器，一个无法访问模型、仅能观测自身进口道的黑盒攻击者，通过训练模仿代理模型并构造有界虚假 V2I 报告，即可显著增加其他进口道的平均等待时间，而自身等待时间几乎不变，将额外延误外部化给其他方向。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 6 条 · 更新于 11:23
arXiv推荐指数4747
arXiv推荐指数2626 工业信息物理系统中携带上下文动作意图的执行时验证：XAIR 运行时与 Action Intent Schema
针对工业控制单元中命令经推理、确认与传输后状态已变导致的“执行间隙”，Action Intent Schema（AIS）要求生产方声明决策有效期与假设，运行时 XAIR 在释放前重新校验意图，并以版本条件命令形式仅在控制器状态版本未变时执行。
arXiv推荐指数5555 CAPSafe：面向具身智能体上下文动作与规划安全推理的基准
作者提出 CAPSafe 基准，从动作级和规划级两个层面评估大模型驱动的具身智能体安全推理能力，其中动作级判断单个动作在给定环境上下文中是否安全，规划级评估智能体能否为复杂危险家务任务生成安全的长程规划。
XCTF 攻防世界推荐指数1010 2026黄鹤杯网络安全人才创新大赛启动，聚焦AI实战攻防与智能网联汽车安全
2026年“黄鹤杯”网络安全人才创新大赛于5月29日在国家网络安全人才与创新基地启动，赛事深度聚焦AI技术在实战攻防中的创新应用。大赛重点攻坚智能网联汽车、物联网等关键领域的全链路安全防护与漏洞挖掘，并设学生组聚焦高校青年网络安全人才培养。
XCTF 攻防世界推荐指数1212 启沅杯2026年佛山市工业互联网安全技能竞赛
启沅杯2026年佛山市工业互联网安全技能竞赛由佛山市互联网信息办公室等四部门联合举办，面向全社会选拔网络安全技能人才。竞赛引入AI赋能的工业互联网仿真环境，围绕智能威胁感知、系统加固与应急响应设置实战演练，以应对生成式人工智能、大语言模型进入制造业带来的新型安全挑战。
arXiv推荐指数5252 PhantomTac：用可贴附磁标签劫持机器人触觉系统
研究者在磁性触觉传感器中发现名为 PhantomTac 的物理层漏洞，攻击者只需在物体表面贴一枚约 0.5 mm 厚、无需供电的磁标签即可篡改传感器解读的力值，且可被条形码贴纸遮盖，属于部署后即可离开的“deploy-and-forget”攻击。