arXiv· Abdelkader Metales·· 1 天前推荐指数67
arXiv 论文:基于惊讶度的持续学习易吸收谎言,证据门控可缓解
Surprise Alone Learns Lies: Evidence-Gated Continual Learning for LLMs from Streaming Claims
AI 导读
论文研究 LoRA 适配的学生模型(Qwen2.5-1.5B、Qwen2.5-3B、Llama-3.2-3B)从真假声明流中持续学习时的问题,发现基于惊讶度的筛选规则会吸收几乎全部植入的谎言,吸收率接近同等预算下的随机选择。
来源:arXiv · arxiv.org