跳到正文
arXiv· Isaac Gibbs·· 8 天前推荐指数52

Selective Auditing:通过选择性审计提升AI辅助决策可靠性

Reliable AI-Assisted Decisions via Selective Auditing

AI 导读

arXiv 论文提出在线监控AI系统决策的选择性审计方法,将任务形式化为在线约束优化问题,在保证未审计AI错误比例低于用户设定阈值的前提下最小化专家审计频率。作者推导出一族具有可证明误差控制保证且无需假设的算法,其中一种方法在对抗与i.i.d.数据流上均渐近达到最优审计率。在大语言模型有害请求筛查、文本标注与数据标注实验中,该方法实现了有效的误差控制,并相比基线显著减少了人工审计需求。

来源:arXiv · arxiv.org