arXiv· Steven Yu·· 20 小时前推荐指数50
厘清语言模型数据归因的设计空间:CATT 基准与负对数几率梯度改进
Elucidating the Design Space of LM Data Attribution
AI 导读
研究提出 Controlled Attribution Benchmark(CATT),通过在完全虚构的知识上微调大语言模型,为数据归因提供无歧义的真值,并系统改变文档冗余度与词汇干扰项等单一配置,发现二者会持续降低归因性能。
来源:arXiv · arxiv.org