90%的神经元其实只有一个功能，可解释性的旧前提被推翻了

　 一键部署OpenClaw

本周，一篇关于神经网络内部结构的超长文章在AI圈里传开。作者Nick Cammarata是OpenAI可解释性团队的创建人。他在文章里给出一个和主流判断相反的结论：神经网络内部并没有那么混乱，大部分神经元其实只干一件事。

他给出的数字来自对Qwen3-32B的初步审查：在这一点上，约90%的神经元只对应一个明确的主导功能；另有约7%同时管两件高度相关的事；剩下的2%到4%，暂时还看不出清晰规律。团队说，万亿参数级的模型上也看到了类似现象，Kimi K3就在其中。

这个结论要放在过去几年的共识里对照才看得清。可解释性领域长期有一个被广泛接受的假说，叫叠加：模型的物理神经元数量有限，却要表达数量庞大的现实特征，于是只好把互不相关的概念压进同一组神经元。为了把混在一起的特征拆开，研究者训练额外的稀疏自编码器来做分解，Anthropic和谷歌DeepMind都在这个方向上投入了大量资源。

2023年OpenAI那项自动可解释性研究，是这个假说的代表性成果。团队用GPT-4去观察规模更小的GPT-2，生成自然语言解释，再检验解释能不能预测神经元的激活。按Cammarata的回顾，就算标准放宽，当年的工具能可靠解释的比例也只有1.7%左右。绝大多数神经元看起来同时在处理多个互不相关的概念，模型越复杂，内部越像一团死结。

新文章推翻的正是这个印象。最常被引用的经典案例，来自InceptionV1这个早期视觉模型里的一个神经元，它既认猫脸，又认汽车前脸。重新检查图片和连接关系之后，Cammarata认为当初看错了，这两者的共同点是形状上都带V形。这个神经元还响应V形火焰和狐狸脸，而圆形会把它推向负向。也就是说，猫和汽车是人的分类，网络找到的是跨越这些类别的形状规律。

文章之外还有一层方法论上的提醒。他指出，神经元未必像名词那样给物体贴标签，也可能像动词那样区分模式、把信息送往不同的下游回路。他提出一个叫递归泛化的机制来解释多义性：神经元从一个模式出发，长出相关的分支，分支再继续生长。团队还发现，一个被自动工具标成多义逗号神经元的单元，实际上和科罗拉多州有关，逗号只是模型汇总前文语境的位置。

有两句话必须补上。第一，这不是一篇经过同行评审的论文，而是作者个人的长文，结论有待学界检验。第二，90%和2023年的1.7%不能直接比，两次研究用的模型、工具和评估标准都不一样，连一项功能怎么定义都会影响统计。但它至少提出了一个值得重新看待的可能性：过去那么多神经元之所以读不懂，也许问题不在模型，而在我们观察它们的方式。

申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！