跳到正文
arXiv· Steven Yu·· 20 小时前推荐指数50

厘清语言模型数据归因的设计空间:CATT 基准与负对数几率梯度改进

Elucidating the Design Space of LM Data Attribution

AI 导读

研究提出 Controlled Attribution Benchmark(CATT),通过在完全虚构的知识上微调大语言模型,为数据归因提供无歧义的真值,并系统改变文档冗余度与词汇干扰项等单一配置,发现二者会持续降低归因性能。

来源:arXiv · arxiv.org