arXiv· Yuqi Jia·· 10 天前推荐指数58
ReMAS：用强化学习对多智能体系统做黑盒红队
Black-Box Red-Teaming of Multi-Agent Systems via Reinforcement Learning
AI 导读
作者提出 ReMAS，一个面向多智能体系统（MAS）的强化学习红队框架，通过微调攻击方 LLM 生成用于系统提示词提取的对抗提示。该框架分两步，先改写基础攻击提示以提高提取成功率，再生成攻击模板以提升调用特定子智能体、暴露其系统提示词的概率。实验显示其攻击成功率明显高于现有黑盒攻击方法，并可迁移到不同后端 LLM 与 MAS 结构。
来源：arXiv · arxiv.org