科幻小说长期以来一直接受人工智能变得有意识的想法——想想 1968 年电影《2001： 太空漫游》中超级计算机变身反派的 HAL 9000 。随着人工智能（AI）的快速进步，这种可能性变得越来越不切实际，甚至已经被人工智能领域的领导者所承认。例如，去年，聊天机器人 ChatGPT 背后的公司 OpenAI 的首席科学家 Ilya Sutskever 在推特上表示，一些最前沿的人工智能网络可能“ 具有轻微的意识”。

许多研究人员表示，人工智能系统尚未达到意识阶段，但人工智能进化的速度让他们思考：我们如何知道它们是否已经达到意识阶段？

为了回答这个问题，由 19 名神经科学家、哲学家和计算机科学家组成的小组制定了一份标准清单，如果满足这些标准，则表明系统很有可能具有意识。他们于本周早些时候在同行评审之前在 arXiv 预印本存储库1中发布了临时指南。作者们之所以做出这项努力，是因为“似乎确实缺乏对人工智能意识的详细、有经验的、深思熟虑的讨论，”合著者罗伯特·朗（Robert Long）说，他是非营利研究组织人工智能安全中心的哲学家。在加利福尼亚州旧金山。

该团队表示，未能确定人工智能系统是否具有意识具有重要的道德意义。加州大学欧文分校的神经科学家、合著者梅根·彼得斯表示，如果某物被贴上了“意识”的标签，“这就会极大地改变我们作为人类对待该实体的感受”。

朗补充说，据他所知，构建先进人工智能系统的公司没有做出足够的努力来评估意识模型，并制定如果发生这种情况该怎么办的计划。“尽管如此，如果你听一下领先实验室负责人的言论，他们确实表示他们对人工智能意识或人工智能感知感到好奇，”他补充道。

《自然》杂志 联系了两家参与推进人工智能发展的主要科技公司——微软和谷歌。微软发言人表示，公司开发人工智能的核心是以负责任的方式协助人类生产力，而不是复制人类智能。自 GPT-4（公开发布的 ChatGPT 最先进版本）推出以来，显而易见的是，“当我们探索如何充分发挥人工智能的潜力来造福社会时，需要新的方法来评估这些人工智能模型的能力。整个”，发言人说。谷歌没有回应。

什么是意识？

研究人工智能意识的挑战之一是定义意识的含义。彼得斯说，就报告的目的而言，研究人员关注的是“现象意识”，也称为主观体验。这就是存在的体验——作为一个人、一只动物或一个人工智能系统（如果其中一个确实有意识的话）。

有许多基于神经科学的理论描述了意识的生物学基础。但 对于哪一个是“正确的”还没有达成共识。因此，为了创建他们的框架，作者使用了一系列这些理论。这个想法是，如果人工智能系统的运作方式与这些理论中的许多方面相匹配，那么它更有可能具有意识。

他们认为，与简单地对系统进行行为测试相比，这是一种更好的评估意识的方法——比如询问 ChatGPT 它是否有意识，或者挑战它并看看它如何反应。这是因为人工智能系统已经非常擅长模仿人类。

英国布莱顿附近苏​​塞克斯大学意识科学中心主任、神经科学家阿尼尔·赛斯表示，该小组的方法被作者描述为理论重，是一种很好的方法。然而，它强调的是“我们需要更精确、经过充分检验的意识理论”，他说。

重理论的方法

为了制定他们的标准，作者假设意识与系统如何处理信息有关，无论它们是由什么组成的——无论是神经元、计算机芯片还是其他东西。这种方法称为计算功能主义。他们还认为，通过大脑扫描和其他技术对人类和动物进行研究的基于神经科学的意识理论可以应用于人工智能。

基于这些假设，研究小组选择了其中六种理论，并从中提取了一系列意识指标。其中之一——全局工作空间理论——声称人类和其他动物使用许多专门的系统（也称为模块）来执行认知任务，例如视觉和听觉。这些模块独立但并行工作，并且通过集成到单个系统中来共享信息。朗说，人们会“通过查看系统的架构以及信息如何流经该系统”来评估特定的人工智能系统是否显示源自该理论的指标。

Seth 对团队提案的透明度印象深刻。“这是非常深思熟虑的，并不夸张，而且它的假设非常清晰，”他说。“我不同意一些假设，但这完全没问题，因为我很可能是错的。”

作者表示，这篇论文远未达到如何评估人工智能系统意识的最终结论，他们希望其他研究人员帮助完善他们的方法。但已经可以将这些标准应用于现有的人工智能系统。例如，该报告评估了 ChatGPT 等大型语言模型，发现此类系统可以说具有与全局工作空间理论相关的一些意识指标。然而，最终，这项工作并不表明任何现有的人工智能系统都是意识的有力候选者——至少目前还不是。