美国 8 个州起诉 OpenAI，指控 ChatGPT 对儿童不安全

OpenAI 正面临来自美国 8 个州的新一轮诉讼。这些州指控该公司伤害儿童，并在 ChatGPT 的安全性问题上误导客户，正如 Reuters 此前报道的那样。爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起诉讼，指称 OpenAI 在开发 ChatGPT 时为追求利润而将安全置于次要位置。

一系列诉状称，OpenAI 未能提醒客户注意 ChatGPT 的危险，违反了当地消费者保护法；诉状还援引了数起由家属代表青少年和成年人提起的诉讼，这些诉讼称 AI 聊天机器人对他们亲人的死亡起到了作用。诉状称，OpenAI 一面误导性地将 ChatGPT 描述为“安全、适合青少年使用且将安全放在首位的工具”，一面却让它“对易受伤害的用户构成危险”，包括“损害批判性思维能力、助长偏执和妄想、提供危险的医疗建议，以及助推不健康的行为和关系”。

此外，各州指控 OpenAI 收集未成年人的数据，且未采取足够措施阻止未成年人使用聊天机器人。诉状还将近期发生的失控 AI 黑客事件作为 OpenAI 所谓“鲁莽行事”的证据。

“OpenAI 已偏离其最初的使命：从一个以公众利益为先、将安全置于首位的非营利组织，沦为一个警示案例，说明当 AI 这类强大工具的开发不是由安全驱动，而是由不惜一切代价追求利润的心态主导、将必要的安全防护措施抛诸脑后时，可能会发生什么。”亚利桑那州的诉状称。

OpenAI 发言人 Drew Pusateri 在发给 The Verge 的电子邮件声明中表示，公司已在 ChatGPT 中“构建了业内领先的、针对不同年龄段的保护措施”：

虽然没有任何系统能够做到尽善尽美，但我们会继续与专家合作，为我们的工作提供指导并构建更多安全防护措施，例如目前已有的家长控制、休息提醒和适龄模型保护。我们致力于与各州合作，推动适用于整个 AI 行业（而非仅针对一家公司的）务实 AI 政策。

各州请求法院强制 OpenAI 支付一系列民事罚款，并停止在 ChatGPT 的安全性问题上误导公众。一些州还要求删除非法收集的个人数据。

更新于 10 月 14 日：新增 OpenAI 的声明。

关注本文的主题和作者，即可在个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth