arXiv论文：CoT依赖度随模型规模上升，与后训练基本无关
arXiv:2610.38433 论文提出用合成box-swap任务测量模型是否真正依赖其写出的思维链：在已知中间状态的推理链中替换一步为错误但有效的状态，观察最终答案是否随之改变。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 3 条 · 更新于 15:38
安全paper推荐指数6767
arXiv推荐指数6262 TopKLoRA 可解释稀疏微调实现忠实电路发现
论文提出 TopKLoRA，一种仅激活每个 token 上 k 个最大适配器隐变量的可解释 LoRA 变体，仅用下游损失训练，使优化压力促使模型学习具功能因果性的隐变量。
arXiv推荐指数4747 Natural Language Autoencoders：识别不等于解释——NLA 重建成功标准无法验证解释忠实性
arXiv 论文指出，Natural Language Autoencoders（NLA）以"verbalizer 将激活转为英文解释、reconstructor 再将解释还原为激活"的往返重建成功作为解释有效判据，但该判据只衡量信息是否足以识别激活，并不检验解释的描述忠实性。