跳到正文
安全paper·· 12 天前推荐指数47

小规模本地部署 LLM 在法律语境下过度拒答:刑事法律场景中的角色前缀使拒答率上升 2–20 倍

LLMs Prompted for Legal Context Refuse More: Overrefusal from Small On-Premises LLMs in Criminal Legal Context

AI 导读

研究显示,小规模开源权重 LLM 在刑事法律日常任务中,加入“我是辩护律师”“国家最高法院法律顾问”等真实职业身份前缀后,对良性请求的拒答率比无前缀基线系统性上升 2–20 倍。该触发因素并非明显越狱提示,而是用户自然的职业自述;已知的角色扮演越狱前缀效果则因模型而异,部分模型拒答率大幅上升、部分几乎不变。结论基于四个小型模型的良性法律领域提示评测,机制、任务广度与泛化性仍待进一步研究。

来源:安全paper · aisecurity.ninja