Goodfire发布Qwen3.6模型神经元可解释性研究

Goodfire 发布研究《Neurons as an Interpretable Basis》，以 Qwen3.6-35B-A3B 模型为对象，称其神经元是可解释的计算单元。研究用稀疏化方法、归因工具和研究智能体分析该模型，得出三项使其成为可解释计算单元的性质。 论文报告的具体结果包括：每次前向传播中消融 92.2% 最弱的 MoE 神经元激活，仅使语言模型损失上升 2.9%，对模型能力影响有限；以及在给定文本段落上预测某神经元是否放电，准确率达 95%（对照为随机文本）。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。