生物行移动版

甚至在聆听的过程中，大脑也会试图预测下一个单词。这是由弗里德里希-亚历山大-埃尔朗根-纽伦堡大学（FAU）的帕特里克·克劳斯博士领导的一个跨学科研究团队，通过分析受试者在聆听故事时的脑磁图（MEG）数据得出的结论。他们的研究发现，当受试者聆听故事时，大脑（主要是颞上回和颞中回）的活动模式超前于实际呈现的语音约200-400毫秒。大脑活动与自然语言序列中词汇的统计预期之间存在显著的相关性；当一个单词在上下文中具有较低的预测概率（高惊讶度）时，大脑活动会出现一个明显的峰值。值得注意的是，这种神经编码与Transformer架构的大型语言模型（如GPT-3）的内部激活模式非常相似。这些发现表明，大脑可能利用类似于大型语言模型的计算原理来处理语言，从而支持语言处理是“预测处理”的一种形式的理论：大脑不仅被动地注册外部刺激，而且会主动生成对即将到来的感觉输入的预测，并将实际输入与预测进行比较以计算预测误差。

预测编码假说

预测编码假说认为，大脑并非简单地被动记录感觉输入（“自下而上”的处理方式），而是会主动生成一个关于外部世界成因的内部模型，并利用该模型生成对即将到来的感觉输入的自上而下的预测。实际感觉输入与预测之间的差异（“预测误差”）会被传递到更高的大脑层级，以更新内部模型。在语言处理领域，预测编码假说预测：在聆听句子时，大脑会持续预测下一个单词的语义和句法特征，当遇到一个意想不到的单词（低概率、高惊讶度）时，大脑会表现出更大的神经活动（即所谓的“惊讶度”反应）。

研究方法

参与者：该研究纳入了数十名健康的成年受试者。

脑磁图记录：在受试者聆听约60-90分钟的有声故事时，使用脑磁图设备记录其大脑磁场的实时变化。脑磁图与脑电图（EEG）类似，具有毫秒级的时间分辨率，但与脑电图相比，脑磁图对脑脊液、颅骨和头皮等组织造成的信号失真更不敏感，因而可以提供更高的空间精度。

语言模型：使用预训练的Transformer模型（如GPT-3）计算故事中每个单词的惊讶度（即该词在上下文中的负对数似然概率）。惊讶度越低，表示该词越可预测；惊讶度越高，表示该词越出乎意料。

神经编码分析：通过脑磁图源定位技术，将记录到的脑磁图信号定位到特定脑区（如颞上回、颞中回、额下回）。随后，使用编码模型（如线性回归或时域感受野模型），将每个单词的惊讶度与相应时间窗口的脑磁图信号进行关联分析。

核心发现

1. 大脑预测单词的速度

源定位结果显示，在颞上回（STG）和颞中回（MTG）中，大脑活动模式能够反映单词的惊讶度。重要的是，这种活动在实际单词呈现之前约200-400毫秒就已出现，表明这是一种自上而下的预测信号，而不是对单词的反应信号。

2. 神经活动与语言模型的契合

由Transformer语言模型计算出的惊讶度，与颞上回/颞中回的脑磁图信号呈线性相关（相关系数r=0.4-0.6，p<0.001）。即使在控制了单词频率、单词长度（音素数量）和词性（名词 vs. 动词）等因素后，这种相关性仍然显著。

3. Transformer语言模型与大脑的神经编码相吻合

与之前使用循环神经网络（RNN）的研究相比，Transformer模型的内部激活模式与大脑活动的匹配程度更高，特别是在处理长距离依赖方面。此外，这种相关性在更深层的Transformer网络中比在浅层网络中更强，这与“更深层对应更高阶的语义表征”这一观点相符。

机制

这些发现为“大脑是一个预测引擎”这一观点提供了强有力的证据。语言处理不仅是一个自下而上的过程，而是一个自上而下与自下而上相结合的动态预测过程。在听到单词“他去面包店买了一个”之后，大脑会预测下一个单词可能是“面包”、“羊角面包”或“蛋糕”。当听到一个低概率的单词（如“鳄梨”）时，这种预测信号就会出现一个明显的峰值（即预测误差）。此外，Transformer架构中的自注意力机制能够捕捉长距离依赖关系，可能类似于大脑中的工作记忆机制。

临床意义

1. 精神疾病的生物标志物：在精神分裂症中，患者难以区分内部生成的思想与外部现实，这可能是由于预测编码机制受损（例如，无法正确更新内部模型）。脑磁图/脑电图范式可用于测量精神分裂症患者的语言预测信号，可能会成为一种有潜力的生物标志物。

2. 自闭症谱系障碍：自闭症谱系障碍患者可能表现出“预测编码过强”（即对预测误差过度敏感），从而导致感觉超负荷和回避新奇刺激。

3. 失语症：失语症患者可能难以利用自上而下的预测来弥补自下而上听觉处理的不足。脑磁图/脑电图预测信号可作为一种客观的评估手段，以指导语言康复治疗。

未来方向

1. 发展轨迹研究：在儿童（6-12岁）中进行纵向脑磁图记录，以探究语言预测能力的发展轨迹与阅读能力之间的关系。

2. 侵入性脑电图记录：在进行癫痫手术术前评估的患者中进行颅内脑电图记录，以明确预测信号在颞上回/颞中回、额下回和角回之间的方向性（是通过自注意力机制在皮层网络中传播）。

3. 人工网络-生物网络对齐：通过微调大型语言模型的参数（例如，通过添加一个损失函数来强迫大型语言模型的激活模式与脑磁图数据相拟合），从而构建出与大脑神经编码更匹配的语言模型。

结论

这项发表在《自然-神经科学》上的研究表明，大脑会在实际听到单词之前约200-400毫秒就提前预测下一个单词。 当遇到低概率（高惊讶度）的单词时，大脑会表现出独特的神经活动模式。值得注意的是，这种神经编码与Transformer大型语言模型（如GPT-3）的内部激活模式高度相似。这些发现表明，大脑语言处理遵循“预测编码”机制，为理解大脑和人工智能在处理语言时的潜在相似性提供了全新的视角。