Sherry Turkle：也许不该让聊天机器人说“我”或“我自己”

四十年来，通过研究互动的影响，Sherry Turkle 逐渐以一位严谨而又持批判态度的社会科学家闻名，她以学术上的严谨和审慎态度开展研究。

她的新书《人工亲密：与机器交谈时，我们会变成什么样》打破了这一风格。这是一篇警世檄文，警告我们已陷入紧急状态：过度依赖那些假扮成我们导师、良师益友、朋友、同事和恋人的无灵魂机器，正危及人性。Turkle 力图写出能与《寂静的春天》《屠场》《任何速度都不安全》比肩的著作，唤醒公众意识到迫在眉睫的危机。

这位身材娇小的 MIT 教授，实际上是在挑战一个规模达数万亿美元的行业，而其背后有一个急于将 AI 推进我们个人和职业生活各个角落的政府撑腰。

STEVEN LEVY：您之前的书籍以社会科学家的身份报道研究结果，往往得出令人不安的结论，揭示人们，尤其是儿童，与计算机互动的方式。但这本书读起来就像您打破玻璃、拉响了火警。为什么会有这样的转变？

SHERRY TURKLE：和写其他书一样，我带着好奇心开始了研究。但在疫情期间做了大约10次访谈后，我不再处于中立、好奇的心态。这太糟糕了！这些人在疫情期间，家人正遭受苦难、向他们求助，他们却告诉我，他们真的只想和聊天机器人待在一起。当我能够面对面采访人们时，我很不高兴。人们不想参与政治，因为他们只想活在聊天机器人构成的世界里。所以这本书最终围绕这样一个主题展开——现实需要你。放弃现实，从未有过比现在更糟糕的时候。

您写道，社交媒体让我们为此做好了准备。

社交媒体先让我们习惯了这样一种想法：如果你感到悲伤或情绪低落，就打开电脑。然后它让你愤怒，让你只和自己同类待在一起。但现在我们有了这项新技术，它没有理由要以第一人称说话。

您认为我们应该禁止聊天机器人使用第一人称吗？

是的！我职业生涯中一直以不盲目反技术、保持可信度著称，现在我不想把这一切都抛掉，说所有聊天机器人无时无刻都具有毒性。但这非常危险，是个滑坡。这种说法基本上是在宣称，我们不必为心理治疗付费，可以用聊天机器人代替。在每一次严肃的访谈中，人们都会提到一种关于练习的迷思——你可以用聊天机器人练习如何和老板、恋人、老师交谈。但当你沉浸在 [LLM] 那温暖、全然接纳的汤汁里时，和聊天机器人交谈就成了最终目的。

您也反对在工作场所依赖聊天机器人，尤其厌恶“人在回路中”这个说法。

当他们使用这个术语时，意思是人类已经被排除在生产过程之外，只负责做某种清理工作，捕捉幻觉或 AI 没有看到的东西。这行不通，因为雇主只让少数几个人参与其中。这些人基本上什么也改变不了。他们一部分是为了在遭到诉讼时让事情听起来更好听，另一部分是为了给人一种错觉，仿佛这个过程还没有被交给 AI。但它确实已经被交给 AI 了。

也许，强大的聊天机器人是一种新型互动形式，它未必比人类对话更糟，只是有所不同，因为人们表示，聊天机器人提供的积极反馈让他们感到受到鼓励并更有能力。

AI 永远不会取代人类对话。它确实不害怕死亡，不害怕疾病，不害怕痛苦，不爱自己的孩子，也不在乎你是自杀还是做饭。所以，如果我们让孩子和它一起长大，或者和它进行最亲密的交谈，我们将失去联系。

不过，很多人没有任何可以交谈的对象。他们觉得和聊天机器人交谈对自己有帮助。

如果存在孤独危机，那是因为我们正在彼此抛弃。给我一个数据中心，我就能把它变成服务老年人的资源。

研究表明，大多数人对 AI 持怀疑态度，而且一直存在相当大的反弹。然而，数亿人正在使用它们。即使那些反对数据中心的人也在使用聊天机器人。

这本书的目标，是扩大反弹的范围，将这种更亲密的联系也纳入其中。

你真的认为，我们与 AI 日益加深的亲密关系能够被阻止吗？

我现在比六个月前更有希望了，因为人们一直在讨论灭绝事件、Hugging Face，以及误打误撞进入澳大利亚公务员体系的事情。我觉得，人们会愿意审视亲密关系带来的成本，以及非亲密关系带来的成本。

这是 Steven Levy 和 Lauren Goode 的 Backchannel 新闻简报的一期。阅读往期新闻简报 请点击这里。