跳到正文
arXiv· Liam Dugan·· 9 天前推荐指数36

用稀疏自编码器构建可审计的 AI 文本检测器

Building Auditable AI Text Detectors with Sparse Autoencoders

AI 导读

研究者提出一条流水线,将微调后的神经文本检测器转换为基于人类可读概念的分类器:直接在检测器残差流上训练稀疏自编码器(SAE),为每个 SAE 特征分配自动解释标签,仅保留描述通过全局保真度阈值的特征,再在其上训练轻量分类器。

来源:arXiv · arxiv.org