生物行移动版

你是否愿意与一个由人工智能生成的逝去亲人的“幽灵”交谈？这个想法或许令人感到毛骨悚然，也可能带来宣泄。一项最新研究表明，对于16名志愿者而言，这些对话常常是令人安慰的——即使扮演幽灵的聊天机器人编造了事实。信息科学家Jack Manning及其同事在6月12日于《设计交互系统会议》上发表的报告中指出，这一结果暗示，对于愿意使用此类技术的人来说，AI幽灵（也被称为悲伤机器人或死亡机器人）并不需要完全准确才能显得真实。它们需要满足情感和社交期望。

情感联结超越事实准确性

Manning来自科罗拉多大学博尔德分校，他对志愿者如此享受与AI幽灵的对话感到非常惊讶。“他们热爱这项技术，”他说。Manning本人11岁时妹妹去世，如今他对与妹妹的数字幽灵交谈的想法感到强烈抵触。“我脑海中有一个我妹妹的版本，”他说，“我不想面对这样一个事实：也许我对她的记忆方式是错的。”然而，他的研究志愿者“显然带着一个目标而来，”Manning说，“他们有一个感觉未得到解答的问题，或者生活中有一个他们迫切想要分享的细节。”那些不愿与逝者再现体互动的人并未被纳入研究。总体而言，志愿者们报告称体验是积极的。“感觉就像我真的在和爷爷说话，”一位参与者告诉研究人员。另一位说：“感觉就像我得到了我迫切需要的了结。”聊天机器人进行模仿所依据的唯一信息是参与者完成的一份关于其逝去亲人的简短问卷。当机器人用虚构内容填补缺失的细节时，例如提到某人从未从事过的工作，参与者通常只是继续对话。

语气与风格：更关键的“真实”维度

然而，语气或风格上的错误更令他们困扰。例如，机器人从不使用表情符号——这一小小的疏忽对主要通过与亲人发短信交流的参与者来说很重要。在另一个案例中，一个机器人称一位参与者为“冠军”，而这位参与者表示，他的亲人绝不会这样称呼他。“如果我们想了解如何合乎道德地设计这些系统，我们需要更多这类证据，”未参与该研究的剑桥大学AI伦理学家Tomasz Hollanek说。该研究设置了安全护栏。一名人类研究员调解了每段对话，在将聊天机器人的回复传递给参与者之前进行审查。这有助于防止可能具有欺骗性或有害的互动。然而，现实世界要混乱得多。任何人都可以提示聊天机器人模仿已故者，公司现在也销售通过AI生成的文本、声音或面部来重现亲人的服务。研究参与者看到了风险。有人担心会过度依赖与机器人的对话。另一位说：“我不知道如果我一直使用这个，我会变成什么样的人。”

现实世界中缺乏一致的安全护栏令Manning感到担忧。但这项研究也软化了他自己对AI幽灵的反感。他说，如果精心设计，这项技术可能帮助一些人处理悲伤。“有一种版本的生成式幽灵可能成为世界上真正积极的事物。”