当前位置: 主页 > 神经科学 > 类脑智能与AI

经典斯特鲁普测试揭示大语言模型注意力机制的根本性缺陷:执行控制能力随序列长度增加而崩溃

2026-06-18 09:29 Suketu Chandrakant P PNAS Nexus 阅读 0
核心摘要: 一项发表于《PNAS Nexus》的研究通过经典心理学“斯特鲁普任务”(颜色词与墨色不匹配)系统评估了GPT-5、Claude Opus 4.1和Gemini 2.5等前沿大语言模型(LLM)的执行控制能力。结果显示,虽然模型在短列表(5个词)中表现良好(如GPT-4o准确率达91%),但随着列表长度增加,其准确率急剧下降:GPT-4o在40个词时降至15%,Claude 3.5 Sonnet降至24%。在混合条件(匹配与不匹配词混杂)下,模型对不匹配项的准确率甚至趋近于0%。研究者指出,这种性能崩溃源于

一项开创性的认知评估研究揭开了大语言模型(LLM)注意力机制中一个系统性、根本性的缺陷。来自多伦多大学等机构的研究人员,通过将经典的心理学“斯特鲁普任务”应用于包括GPT-5、Claude Opus 4.1和Gemini 2.5在内的前沿模型,揭示了机器决策过程中一种严重的认知崩溃现象。该研究发表于《PNAS Nexus》。

斯特鲁普任务:测试执行控制的黄金标准

斯特鲁普任务是临床神经心理学中评估执行控制能力的经典范式。在典型任务中,表示颜色的词(如“RED”)被印刷在不同颜色的墨水上(例如,单词“RED”用蓝色墨水印刷)。受试者需要忽略单词本身的语义,而快速、准确地报告墨水的颜色。对于人类而言,当词义与墨色不一致(即不匹配条件)时,反应时显著延长,错误率增加,这被称为“斯特鲁普冲突效应”。然而,健康人类大脑能够通过自上而下的执行控制机制,成功抑制自动化的单词阅读冲动,从而在长序列中维持稳定的高准确率。研究者正是利用这一特性,来探测LLM的注意力机制是否具备类似的冲突解决能力。

长度依赖性的性能崩溃:从91%到15%的断崖式下跌

研究团队设计了一系列长度递增的单词列表,要求模型执行斯特鲁普任务。结果令人震惊:当列表仅包含5个不匹配词时,GPT-4o的准确率高达91%,表现与人类相当。然而,当列表长度扩展至10个词时,其准确率骤降至57%;而当列表进一步延长至40个词时,准确率彻底崩溃至仅15%。另一款模型Claude 3.5 Sonnet在20个词以内尚能维持相对稳定,但在40个词时同样跌至24%的临界水平。研究者指出,这种性能下降并非渐进式,而是呈现一种“灾难性”的断崖式特征,表明Transformer的注意力机制在长上下文环境中完全丧失了维持任务目标的能力

更为严峻的考验出现在“混合列表”条件下——即列表中同时包含匹配词(词义与墨色一致)和不匹配词。在这种更接近真实世界复杂性的场景中,模型的表现进一步恶化。对于列表中的不匹配项,所有测试模型的准确率均趋近于0%。这意味着,当模型需要频繁在两种任务模式(读取词义 vs. 命名颜色)间切换时,其执行控制系统彻底失效,完全退化为默认的文本读取行为。

前沿模型无一幸免:缺陷具有普遍性

这一操作性的脆弱性并非仅限于旧版模型。研究者在下一代系统中验证了完全相同的认知崩溃模式,包括GPT-5、Claude Opus 4.1和Gemini 2.5。所有模型在长序列或混合条件下均表现出相似的、严重的性能下降。这表明,该缺陷并非某个特定模型训练策略的偶然失误,而是根植于Transformer架构本身的注意力机制之中。正如研究者Jin Fan所指出的:“LLMs在单词阅读任务上的训练远优于颜色命名任务,这与人类相似。然而,人类能够成功运用自上而下的控制来抑制自动阅读,而LLMs完全缺乏这种可持续的聚焦能力。

生物注意力 vs. 合成注意力:结构性鸿沟

该研究的核心发现揭示了生物大脑与人工神经网络之间一个根本性的差异。人类大脑的注意力系统由前额叶皮层等高级脑区执行自上而下的控制,能够根据任务目标动态地增强或抑制特定神经通路的活动。这种机制使得人类可以在长序列信息处理中,持续地抑制干扰、维持焦点。相比之下,Transformer的注意力机制本质上是自下而上的、基于数据驱动的相似性计算。它缺乏一个明确的、独立的“执行控制”模块来调节冲突。当序列变长,模型内部对于“读取单词”这一高度自动化的先验知识(来自预训练)的激活强度,会压倒性地覆盖“命名颜色”这一任务指令。研究者Suketu Patel表示:“斯特鲁普任务测试的是一种特定的技能——执行控制,即有意地阻断自动反应的能力。LLMs的首要训练目标是读取和预测文本。当被迫忽略词义时,其主要的文本读取训练会随着数据序列长度的增加而覆盖指令,导致模型退回到自动化的阅读习惯。

研究团队在论文摘要中总结道:“这些发现表明,Transformer注意力机制在扩展上下文中的冲突解决能力存在根本性局限,并且在不断增加的干扰下无法自适应地上调控制。我们认为,将类似于生物注意力的执行控制机制整合进人工系统,是实现通用人工智能的关键一步。”


Journal Reference:
Suketu Chandrakant Patel, Hongbin Wang, Jin Fan. Deficient executive control in transformer attention. PNAS Nexus, 2025. DOI: 10.1093/pnasnexus/pgag149
    发表评论