LocalAlign 用近目标对抗训练提升注入防御泛化

南洋理工大学与武汉大学研究团队在 ACM CCS 2026 发表 LocalAlign，通过在正确回答附近自动生成近目标对抗样本，并配合边际感知对齐（MAA）微调，提升提示注入防御的泛化能力。 该方法针对的是微调类防御：此前 StruQ 用结构化输入与监督微调区分可信指令与不可信数据，SecAlign 及 Meta-SecAlign 进一步用偏好优化让模型倾向可信指令对应的正确回答。LocalAlign 在 Llama-3.1-8B-Instruct 和 Qwen3-4B-Instruct-2507 上以攻击成功率（ASR）评估，数值越低防御越强；分布外评估覆盖 HotpotQA、Qasper、InjecAgent、SEP、MMLU 和 Open-Prompt 六个数据集，涉及多跳问答、长文档问答、工具型智能体等场景。其中“无需优化攻击”的结果取所评估攻击策略中的最高 ASR，而非各策略平均值。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。