雷托·杜阿尔特（Renato Duarte）最近进行的引文分析，为神经科学与人工智能（AI）之间的交叉引用绘制了一幅有趣的图景。然而，我认为这种分析方法夸大了引文模式在揭示智力影响力方面的作用。特别是关于“现代AI在实际机制和运行原则上，惊人地较少受惠于神经科学”的观点，已经远远超出了引文分析所能证实的范畴。简而言之，引文并不是衡量这种智力债务的良好指标。
现代AI日益演变成一门工程学科。少数概念上的创新可能会催生大量下游文献，用于专门的优化、规模扩展、效率提升和新应用。这些论文自然会引用其直接的技术前驱，而不会追溯它们所使用思想的更深层历史渊源。如果某个来自神经科学或其他领域的关键想法，仅仅贡献了一个衍生出10,000篇工程论文的组织性核心概念，那么即便它曾重新指引了该领域的发展方向，引文计数通常也会使最初的贡献看起来微不足道。
以现代大语言模型（如ChatGPT）背后的底层架构——Transformer的历史为例，它就能很好地说明这一点。Transformer可以追溯到循环神经网络（RNN），后者将序列处理构建在通过时间演化的学习内部状态周围。而RNN又借鉴了神经科学中长期存在的观点，即循环神经电路是时间整合、记忆和持续活动的基质。随后，“注意力机制”（Attention）放宽了所有相关信息必须通过单一演化状态传递的要求。Transformer则迈出了下一步：一旦任意位置可以通过注意力相互作用，循环本身就可以被摒弃。最初作为改善序列模型的方法，最终演变成了一种能够在GPU（现代AI的主导硬件）上更有效地进行并行化和规模扩展的架构。
但是，一篇关于RNN的论文应该引用哪篇神经科学论文来讨论循环计算呢？这个问题并没有显而易见的答案。循环电路是教科书级别的神经科学常识，而不是与某篇经典引用直接关联的重大发现。在“注意力”机制中也遇到了同样的问题。在机器学习中被转化为特定数学运算之前，“注意力”是心理学和神经科学经过几十年发展形成的一个广泛概念。当那篇著名的《Attention is all you need》论文发表时，适当的近期引用自然是早期关于注意力的机器学习论文，而不是某个能代表该概念诞生的特定神经科学文献。
因此，引文图谱记录的往往是一个智力谱系中最后几次交接，而不是谱系本身。这并不是神经科学和AI独有的现象。试想一下，如果试图通过直接引用来评估数学对现代工程学的贡献：信号处理论文不会例行公事地引用约瑟夫·傅里叶（Joseph Fourier）；使用线性代数的工程师不会引用阿瑟·凯莱（Arthur Cayley）或詹姆斯·约瑟夫·西尔维斯特（James Joseph Sylvester）；现代分子生物学论文也很少引用詹姆斯·沃森（James Watson）和弗朗西斯·克里克（Francis Crick）。基础理念往往正是因为变得基础而隐形。一旦它们进入了一个领域的共同词汇库，引用其起源就变得没有必要了。社会学家罗伯特·默顿（Robert Merton）将此称为“通过合并而湮灭”（obliteration by incorporation）：成功的思想会被彻底吸收，以至于其来源从引文记录中消失。因此，基于直接引用的方法具有系统性倾向，会低估深远、陈旧且成功的深层影响。
机器学习较短的引文记忆进一步强化了这一解释。AI（尤其是基于会议的机器学习文献）似乎主要引用其最近的前辈；在对当代AI会议论文的一项小型抽样检查中，大约三分之二的参考文献在5年或更短时间内发表，其中位年龄仅为3年。相比之下，神经科学期刊论文的引用中位数为8年，其长尾甚至可以延伸到20年或更久。尽管需要更系统的分析，但这些引文惯例似乎强烈倾向于最近的技术前辈，而非更深层的智力来源。
“通过合并而湮灭”现象表明了基础理念的影响力如何在引文记录中消退，而当从神经科学借用较新理念时，也会出现同样的问题。最近的Hugging Face事件让公众对AI安全辩论的利害关系有了切实体会。一些旨在解决这一问题的最重要进展——例如Anthropic公司的“金门克劳德”（Golden Gate Claude）——在智力上受惠于过去十年中神经科学关于混合选择性（mixed selectivity）和群体表征的研究。然而，这一谱系在该论文的引文中却基本缺席；它所引用的神经科学论文大多是几十年前的老文献。
这些考量表明，追踪这段历史的另一种虽不那么量化但可行的方法，是通过那些在不同领域之间传递思想的研究者来实现。许多负责AI基础性发展研究的研究人员都曾深入涉足神经科学和心理学，这绝非偶然。因在神经网络基础性工作而获得诺贝尔奖的约翰·霍普菲尔德（John Hopfield），正是在与研究生物神经系统的神经科学家密切对话中发展出其神经计算理念的；被称为“AI教父”的杰弗里·希ント（Geoffrey Hinton，与霍普菲尔德共享诺贝尔奖）、杨·勒昆（Yann LeCun）和约书亚·本吉奥（Yoshua Bengio）亦是如此。这种影响甚至延伸到了下一代。三家最大AI实验室中两家的创始人——因AlphaFold研究而获得诺贝尔奖的DeepMind的德米斯·哈萨比斯（Demis Hassabis），以及Anthropic的达里奥·阿莫代伊（Dario Amodei）——在其博士研究中均聚焦于神经科学。
杜阿尔特的分析无疑是绘制当前跨领域学术交流的一张宝贵地图，但它并不能用作衡量现代AI究竟对神经科学亏欠多少的客观尺度。要回答这个问题，仅靠文献计量学是远远不够的，它需要借助思想史的研究方法：去追踪那些在不同领域间迁移、改名、形式化，并最终消失在技术基底之中的科学思想。