arXiv论文研究LLM模拟选民中的人口统计偏差与对齐策略
论文研究LLM在数字民主中模拟选民时的人口统计偏差,用三次美国总统选举数据对比闭源与开源模型对不同群体选票的还原准确度。结果显示从选民画像中移除性别可使模型最大群体误差降低22-42%,移除教育信息降低64%,而移除自述种族反而使平均群体误差上升超过40%,且均不降低整体准确率;重复查询或公平性指令等常见对齐策略无法减少这些误差,甚至可能使其翻倍。
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
论文研究LLM在数字民主中模拟选民时的人口统计偏差,用三次美国总统选举数据对比闭源与开源模型对不同群体选票的还原准确度。结果显示从选民画像中移除性别可使模型最大群体误差降低22-42%,移除教育信息降低64%,而移除自述种族反而使平均群体误差上升超过40%,且均不降低整体准确率;重复查询或公平性指令等常见对齐策略无法减少这些误差,甚至可能使其翻倍。