arXiv· 13:05推荐指数7272指令微调数据选择器的 utility-hijacking 攻击与 CONCERT 防御研究论文提出 utility-hijacking 攻击,通过改造有害记录使其兼容效用导向的指令数据选择器并保留恶意载荷,令 top-k 选择反而集中而非过滤毒物。安全论文安全研究#论文/研究#C03 AI红队测试#数据投毒投毒与后门检测与护栏拒答失当红队与自动化测试
ShortSpan· 10:50推荐指数7171研究:安全策略蒸馏会把教师后门传给干净学生模型Jian Luo、Kehan Qi 等人在论文《Does On-Policy Distillation for Safety Pose Backdoor Risks?安全论文安全研究#论文/研究#数据投毒#供应链安全投毒与后门模型内生加固拒答失当红队与自动化测试