随着人工智能（AI）聊天机器人日益展现出流利且情感化的对话能力，它们常常给人一种错觉，仿佛能够理解我们的思想和情感，甚至拥有某种形式的意识。在人们日益依赖这些对话代理寻求建议、慰藉或陪伴的当下，这种混淆可能带来切实的后果。

近日，蒙特利尔大学和约翰霍普金斯大学的一个神经科学家团队发表了一项重要研究，明确提醒我们一个核心区别：智能不应与意识混淆。研究人员指出，一个系统即使表现出高度智能并能对人类情感做出令人信服的响应，也并不意味着它真正理解这些情感、关心我们，或拥有任何内在体验。

该研究的作者们强调，随着AI代理变得越来越具说服力并深入我们的生活，对其本质的认识必须更加清晰。

神经科学的启示：盲视现象

为支持其论点，研究团队援引了长达数十年的神经科学研究成果，特别是“盲视”（blindsight）现象。在初级视觉皮层受损后，一些患者报告在部分视野中完全看不到任何东西，但他们仍能以高于随机猜测的水平，准确判断视觉刺激的位置、运动或情感表达。

蒙特利尔大学和麦吉尔大学健康中心的心理学博士后研究员瓦妮莎·哈迪德（Vanessa Hadid）解释说：“一个患有盲视症的人可以在没有有意识地‘看到’视觉信息的情况下，准确地对其做出反应。”她与蒙特利尔大学心理学教授、Mila – 魁北克人工智能研究所研究员卡里姆·杰尔比（Karim Jerbi），以及约翰霍普金斯大学恢复性神经技术中心主任约翰·W·克拉考尔（John W. Krakauer）共同撰写了这篇论文。

哈迪德指出，盲视现象清晰地阐明了一个基本区别：信息处理，无论多么复杂，都不足以确立意识体验的存在。她补充说，信息处理最终能否转化为主观体验，在科学家和哲学家之间仍是一个持续的争论。

AI的本质：流利无感

从设计上讲，当前的人工智能对话代理是纯粹的计算系统。它们通过海量的统计学习，生成流利且符合语境的响应，而非通过感受、意识或生活经验。随着AI系统变得越来越具说服力并能模拟情感反应，人们将其内在生命归因于它们的风险也随之增加。

杰尔比教授指出：“拟人化意味着将情感、意图或意识归因于行为像人类的事物。对于AI而言，这种本能反应可能成为一个陷阱：它会助长被理解的错觉，并可能导致错误的信任。”

这种风险在脆弱情境下尤为突出。人们可能会对无法 reciprocate（回报）的系统产生依恋，在困难时刻依赖它们，或者将算法提供的慰藉与真正的关怀混淆。

哈迪德博士警告说：“在心理支持的背景下，风险不仅在于AI可能给出糟糕的回答，更在于它可能给出足够好的回答，以至于我们忘记了文本背后并没有一个真实的实体。”

杰尔比教授补充道：“当前的AI系统没有任何感受，也没有有意识的体验。但它们说话越流利，对我们的情感表现得越敏感，我们就越容易忘记这一点。”

呼吁更明智的AI使用方式

研究作者们并非拒绝AI，而是呼吁采取一种更明智的使用方式。他们借鉴神经科学的既有知识，再次强调智能或情感响应行为不足以确立意识的存在。

这种区分使我们能够将这些工具视为其本来的面目：强大的计算系统，而不是具有同理心或道德判断力的对话者，更不能将其视为人类连接或在需要时寻求专业帮助的替代品。

杰尔比教授总结道：“将智能与意识混淆，是我们与AI关系中的一大陷阱。”