安全内参·· 1 天前精选推荐指数71
LocalAlign:用近目标对抗训练提升提示注入防御泛化能力
LocalAlign:通过近目标对抗训练提升提示注入防御泛化能力
AI 导读
南洋理工大学与武汉大学研究团队在 ACM CCS 2026 发表 LocalAlign,通过在正确回答附近自动生成近目标对抗样本并配合边际感知对齐(MAA)微调,提升提示注入防御的泛化能力。
推荐理由
论文把提示注入防御的泛化不足拆成输入侧与目标侧两个维度,并给出近目标对抗训练的具体做法与消融数据,可迁移性强。
来源:安全内参 · secrss.com