科幻小说长期以来一直描绘人工智能（AI）拥有意识的情景——例如1968年电影《2001：太空漫游》中的超级计算机HAL 9000。随着AI的快速发展，这一可能性正变得越来越现实，甚至得到了AI领域领导者的承认。去年，ChatGPT背后的公司OpenAI的首席科学家Ilya Sutskever在推特上表示，一些最前沿的AI网络可能“具有轻微的意识”。

许多研究人员认为，AI系统尚未达到意识阶段，但AI进化的速度促使他们思考：我们如何判断它们是否已经具备意识？为了回答这个问题，由19名神经科学家、哲学家和计算机科学家组成的小组制定了一份标准清单，如果满足这些标准，则表明系统很可能具有意识。他们于本周早些时候在同行评审之前在arXiv预印本存储库中发布了临时指南。作者们表示，这项努力源于“似乎确实缺乏对AI意识的详细、有经验且深思熟虑的讨论”。

该团队指出，未能确定AI系统是否具有意识会带来重要的道德影响。加州大学欧文分校的神经科学家、合著者梅根·彼得斯表示，如果某物被贴上“意识”的标签，“这将极大地改变我们作为人类对待该实体的感受”。朗补充说，据他所知，构建先进AI系统的公司并未做出足够努力来评估意识模型，也未制定应对这种情况的计划。“尽管如此，如果你听取领先实验室负责人的言论，他们确实表示对AI意识或AI感知感到好奇。”

《自然》杂志联系了微软和谷歌两家主要科技公司。微软发言人表示，公司开发AI的核心是以负责任的方式协助人类生产力，而非复制人类智能。自GPT-4发布以来，显而易见的是，“当我们探索如何充分发挥AI潜力以造福社会时，需要新的方法来评估这些AI模型的能力”。谷歌未予回应。

什么是意识？

研究AI意识的挑战之一在于定义意识。彼得斯说，就报告而言，研究人员关注的是“现象意识”，即主观体验——作为一个人、动物或AI系统（如果其中某个确实有意识的话）的存在体验。有许多基于神经科学的理论描述了意识的生物学基础，但对于哪一个是“正确的”尚未达成共识。因此，作者使用了一系列理论来创建框架。其思路是，如果AI系统的运作方式与这些理论中的许多方面相匹配，那么它更有可能具有意识。他们认为，与简单地对系统进行行为测试（例如询问ChatGPT是否有意识）相比，这是一种更好的评估方法，因为AI系统已非常擅长模仿人类。

英国萨塞克斯大学意识科学中心主任、神经科学家阿尼尔·赛斯表示，该小组的方法（被作者描述为“理论重”）是一种很好的方法。然而，它强调了“我们需要更精确、经过充分检验的意识理论”。

重理论的方法

为了制定标准，作者假设意识与系统如何处理信息有关，无论其由什么组成——神经元、计算机芯片还是其他。这种方法称为计算功能主义。他们还认为，基于神经科学的意识理论（通过大脑扫描等技术对人类和动物进行研究）可应用于AI。基于这些假设，研究小组选择了六种理论，并从中提取了一系列意识指标。其中之一——全局工作空间理论——声称人类和其他动物使用许多专门系统（模块）来执行认知任务，如视觉和听觉。这些模块独立但并行工作，并通过集成到单个系统中来共享信息。朗说，人们会“通过查看系统的架构以及信息如何流经该系统”来评估特定AI系统是否显示源自该理论的指标。

赛斯对团队提案的透明度印象深刻。“这是非常深思熟虑的，并不夸张，而且假设非常清晰，”他说。“我不同意一些假设，但这完全没问题，因为我很可能是错的。”作者表示，这篇论文远非评估AI系统意识的最终结论，他们希望其他研究人员帮助完善方法。但已可将这些标准应用于现有AI系统。例如，报告评估了ChatGPT等大型语言模型，发现此类系统可以说具有与全局工作空间理论相关的一些意识指标。然而，最终，这项工作并不表明任何现有AI系统是意识的有力候选者——至少目前还不是。