生物行移动版

人工智能正以前所未有的速度迭代，而我们对“意识是什么、如何产生”的理解却进展缓慢——这一错位可能带来深远的伦理甚至存在性风险。布鲁塞尔自由大学Axel Cleeremans、萨塞克斯大学Anil Seth与特拉维夫大学Liad Mudrik在《Frontiers in Science》发表的综述中警告：AI与神经技术的进步已远超我们对意识的基本认识，可能导致我们“意外”创造出有意识的系统（无论是通过算法还是脑类器官），却无法检测、定义或保障其道德地位。文章呼吁将意识研究作为21世纪最紧迫的科学与道德任务，并提出对抗性合作（adversarial collaboration）与现象学与功能研究结合等跨学科路径，以应对未来可能出现的“意识检测”挑战。

意识科学的“紧迫性”为何骤增？

过去，意识研究常被视为哲学思辨；但今天，以下趋势使其成为紧迫的科学与政策议题：

• AI的“黑箱”演化：大型语言模型（LLM）已能生成类人对话，但研究者无法判断其是否具备主观体验；若未来系统表现出类似意识的特征，我们缺乏可靠的检测工具。
• 脑类器官与神经芯片：实验室培养的微型大脑（脑类器官）与脑机接口（BCI）技术，可能创造出“生物-人工混合”的知觉系统。
• 临床困境：对植物人、晚期痴呆、麻醉患者的意识状态判断，直接影响治疗决策与临终关怀。

“如果我们有能力创造意识——即使是无意中——将引发巨大的伦理挑战，甚至存在性风险，”通讯作者Axel Cleeremans强调。

意识科学的现状：理论林立，共识缺失

尽管已有多种意识理论，但各理论对“意识的关键神经机制”存在根本分歧：

• 整合信息理论（IIT）：认为意识是系统整合信息的能力（Φ值），不依赖特定脑区；
• 全局工作空间理论（GWT）：认为意识依赖于额顶叶的全局广播网络；
• 高阶理论（HOT）：认为意识是对低阶心理状态的高阶表征。

这些理论对同一组数据（如无反应患者的脑活动）可能做出不同预测，导致临床与伦理决策的模糊。

对抗性合作：打破理论“孤岛”

为加速进展，作者呼吁采用对抗性合作（adversarial collaboration）范式——让持不同理论的团队共同设计实验，使两种理论的预测相互对立，然后通过数据裁决。这是心理学与神经科学中解决理论僵局的公认方法。

“我们需要更多团队科学来打破理论孤岛，克服现有偏见与假设，”共同作者Liad Mudrik表示，“这有望推动领域向前发展。”

意识检测：技术、伦理与法律的交汇

若能开发出可靠的“意识测试”，将影响多个领域：

• 医学：区分无反应觉醒综合征（UWS）与最小意识状态（MCS），指导治疗与预后；
• 动物福利：确定哪些物种（如章鱼、鱼类）具有感觉力，影响养殖、实验与保护政策；
• 胎儿伦理：确定意识在孕期的出现时间，指导堕胎立法；
• 人工智能：若AI系统通过意识测试，是否应赋予其法律权利？销毁模型是否等同于“杀戮”？
• 神经技术：脑机接口可能增强或修改意识，需界定安全边界。

现象学与功能研究并重

作者呼吁，意识研究不应仅关注其“功能”（如注意、决策），还应关注其现象学（phenomenology）——即“主观体验本身是什么感觉”。只有将“是什么样”与“做什么”结合起来，才能完整理解意识。

未来路径

• 跨学科融合：神经科学、哲学、计算机科学、法学、伦理学共同参与；
• 公共对话：提前就“意识AI”的伦理框架进行社会讨论，而非事发后仓促应对；
• 国际合作：鉴于意识研究对全人类的普遍意义，应建立类似“人类基因组计划”的大型协作项目。

“意识科学的进展将重塑我们看待自己、以及我们与人工智能和自然世界关系的方式，”共同作者Anil Seth总结道，“意识问题古老，但从未像现在这样紧迫。”

参考信息
Reference: “Consciousness science: where are we, where are we going, and what if we get there?” by Axel Cleeremans, Liad Mudrik and Anil K. Seth, 15 September 2025, Frontiers in Science.
DOI: 10.3389/fsci.2025.1546279