arXiv· Yahao Ren·· 9 天前推荐指数72
指令微调数据选择器的 utility-hijacking 攻击与 CONCERT 防御研究
Characterizing and Defending Utility-Hijacking in Instruction-Tuning Data Selection
AI 导读
论文提出 utility-hijacking 攻击，通过改造有害记录使其兼容效用导向的指令数据选择器并保留恶意载荷，令 top-k 选择反而集中而非过滤毒物。
来源：arXiv · arxiv.org