概括：当你伸手去拿盐瓶时，你的大脑不仅在计算坐标，还在计算坐标。它正在倾听您身体的平衡感、皮肤的摩擦力以及您内部的口渴或疲劳程度。一项具有争议性的新研究认为，当前的人工智能模型（如 ChatGPT 和 Gemini）存在根本缺陷，因为它们缺乏“内部体现”。

虽然人工智能可以完美地描述一杯水，但它没有内部的“口渴”状态来调节其行为。研究人员认为，如果没有这些内部“漏洞”和自我监管，人工智能将仍然容易出现过度自信的错误，并难以真正与人类价值观保持一致。

• 缺失的成分：该研究区分了外部实施例（与物理世界互动）和内部体现（持续监控内部状态，如疲劳、不确定性或需求）。
• 知觉测试：研究人员使用“点光显示器”（暗示人体的点）测试了领先的人工智能模型。虽然即使是人类新生儿也能认出这个人，但人工智能模型却失败了，有时将这些点描述为“星星星座”。
• 通过漏洞实现安全：对于人类来说，身体充当内置的安全系统。如果我们“精疲力竭”或“不确定”，我们的身体就会记录下来。人工智能缺乏这种“内部成本”，这意味着它在实际猜测时没有内在理由避免过度自信。
• 双实施例框架：加州大学洛杉矶分校的研究人员提出了一种新的人工智能架构，可以跟踪“合成”内部状态（例如处理负载和置信水平），以随着时间的推移限制行为。
• 超越模仿：该团队主张建立新的基准来衡量人工智能是否可以自我监控并保持稳定性，而不仅仅是测试它是否可以识别物体或通过律师考试。

来源：加州大学洛杉矶分校

当一个人伸手穿过桌子递盐时，他们的大脑正在做一些比识别请求和执行动作复杂得多的事情。它借鉴了一生的身体经验——他们的手在空间中的位置、盐瓶的感觉、谁问以及为什么问的社会意识。在不到一秒的时间里，他们的身体和大脑就融为一体了。

当今最先进的人工智能系统缺乏这种身体机制，加州大学洛杉矶分校健康中心的一项新研究认为，这对于这些模型的行为方式以及它们的安全性和可信度具有重大影响。

在杂志上发表的一篇论文中神经元加州大学洛杉矶分校健康中心博士后研究员 Akila Kadambi 及其同事提出，当前的人工智能系统缺少人类认为理所当然的两个基本要素：与物理世界互动的身体以及对身体自身状态（如疲劳、不确定性或生理需求）的内部意识。

研究人员将这种组合属性称为“内部体现”，并提出将其功能类似物构建到人工智能中代表了该领域最关键且尚未充分探索的前沿之一。

加州大学洛杉矶分校大卫格芬医学院精神病学和生物行为科学系的博士后研究员阿基拉·卡达姆比 (Akila Kadambi) 表示：“虽然目前世界模型的重点是外部体现，例如我们与世界的外向互动，但对内部动态或我们所说的‘内部体现’的关注却少之又少。对人类来说，身体充当我们对世界的体验调节器，作为一种内置的安全系统。”作者。

“如果你不确定，如果你精疲力竭，如果有什么与你的生存相冲突，你的身体就会记录下来。人工智能系统现在还没有类似的东西。它们听起来可能是经验性的，无论它们是否应该，但出于多种原因，这都是一个真正的问题，特别是当这些系统部署在重要的环境中时。”

AI身体差距

该论文重点关注多模态大语言模型，这是为 ChatGPT 和 Google Gemini 等工具提供支持的技术类别。作者表示，虽然这些系统可以处理和生成文本、图像和视频来描述一杯水，但它们无法知道口渴的感觉。