看学术

指令微调数据选择器的 utility-hijacking 攻击与 CONCERT 防御研究

论文提出 utility-hijacking 攻击，通过改造有害记录使其兼容效用导向的指令数据选择器并保留恶意载荷，令 top-k 选择反而集中而非过滤毒物。