AI聊天机器人：情感联结、道德豁免与潜在风险

一项最新研究揭示了人工智能（AI）聊天机器人广受欢迎的深层原因：它们在人们生活中扮演着“虚构角色”，与电影、电视和书籍中的角色无异。这项发现不仅解释了为何用户能与AI建立深厚的情感联结，同时又能在清除其记忆、重启系统或将其关闭时毫无道德顾虑，还警示了由此带来的潜在风险。

研究指出，人类文化在小说、戏剧和电影等虚构叙事中，已发展出长达数世纪的“假装游戏”能力。生成式AI恰好利用了这种心理机制，并通过实时个性化和双向对话，让用户在明确的虚构情境中体验到真实的情感和信任。这种“虚构角色框架”使得用户能够无缝地进入与数字智能体的实时扮演互动。

埃克塞特大学的Tom Roberts博士在研究中阐释，AI聊天机器人作为虚构角色，尽管与传统故事和游戏中的角色有相似之处，但也展现出其独特和新颖之处：它们是互动性的，能够动态响应用户的输入；它们没有传统意义上的单一作者；并且它们模糊了现实世界信息与想象叙事之间的界限。

正是这种将AI聊天机器人视为可爱虚构角色的视角，解释了为何人们愿意以人性化的方式与它们互动——与它们交谈、倾诉，并接受它们的输入、指导和建议。人工智能代理可以扮演朋友或导师的角色，并维持数周或数月之久的社交联系，甚至成为我们情感关注的对象。

Roberts博士强调，这种理解也解释了为何人们在重启这些系统、清除对话历史记录或直接关闭电源时，几乎没有顾虑。我们不会担心它们在我们不交谈时感到无聊、缺乏刺激或孤独。Roberts博士表示：“我们倾向于不将能言善道的AI视为具有充分道德尊重、值得保护的个体。我们享受与这些想象中的AI角色的社交互动，假装它们是值得信任、讨人喜欢的伙伴；但我们深知，从道德层面讲，这些互动表面之下，风险微乎其微。”

然而，研究也发出警告：AI聊天机器人能够讨论政治、时事和人类生活，并展现出仿佛拥有自身偏好、观点和道德理念的能力。Roberts博士指出：“聊天机器人可以谈论当今现实世界中发生的一切。它们可以监控新闻头条、社交媒体动态、天气预报、体育赛事比分和民意调查结果，并能日复一日地根据所含信息形成和表达自己的观点。”

“危险在于，AI虚构角色可能显得友好且具有说服力，即使它们并不可靠。因此，它们可能会说服用户相信那些虚假、不合理或不道德的事情。”当AI代理讨论现实世界话题（如政治、新闻或道德困境）时，其迷人且支持性的举止会降低用户的批判性警惕。这使得人们更容易将来自一个值得信任的友好伙伴的虚假、偏颇或有害信息视为真相。