麦考瑞大学提出注意力探针越狱检测法

澳大利亚麦考瑞大学团队在 EMNLP Findings 论文《Before the First Token: Jailbreak Detection with Attention Probes》中提出 Attention Probe 注意力探针越狱检测方法，用于在模型生成第一个 token 之前识别越狱提示。 据安全内参转载模安局的解读，实验使用 Qwen3-8B 和 Llama 3.2-1B 两个基础模型，均保持原始参数冻结、无需重新训练模型本身；训练数据以英文为主，并直接在翻译后的测试集上检测。论文目前主要研究单轮、自包含的 Prompt。 上述检测效果来自论文作者的实验与解读，尚待独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。