麦考瑞大学提出 Attention Probe 注意力探针越狱检测方法

澳大利亚麦考瑞大学团队在 EMNLP Findings 论文《Before the First Token: Jailbreak Detection with Attention Probes》中提出 Attention Probe 方法。