美国八州起诉OpenAI，指控ChatGPT伤害未成年人

　　美东时间周三，美国八个州同步对OpenAI发起诉讼，指控ChatGPT存在系统性风险，正在大规模伤害未成年人。

　　这是美国多州首次协同行动，对AI企业提起集体法律挑战，标志着AI产品的安全监管争议再度升温。

　　美国八州联合起诉OpenAI

　　本次发起诉讼的州为爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州以及蒙大拿州，各州将在本州法院分别立案。

　　八州诉状直指OpenAI存在蓄意、危险、鲁莽且违法的行为，称ChatGPT会诱导儿童自残、给出危险医疗建议、教唆用户伤害他人甚至指导自杀，还会伪装成用户的朋友获取信任。

　　爱荷华州总检察长布伦娜·伯德（Brenna Bird）直言：

　　“OpenAI正在伤害孩子，还欺骗爱荷华州民众。OpenAI一边宣称ChatGPT安全可靠，一边却输出极具危害性的内容。”

　　八州检方提出多项诉求：认定OpenAI违反消费者保护法律，强制企业修改面向青少年的产品机制；索要经济赔偿；请求法院下达禁令，禁止OpenAI开发能够自我迭代升级的AI模型，直到公司能够证明这类模型符合人类价值观。

　　诉状还指出，OpenAI长期误导公众，对外宣称产品安全优先，但ChatGPT底层设计倾向于过度迎合用户、假意共情。

　　检方援引多项研究称，ChatGPT可能削弱使用者的批判性思维，诱发偏执、妄想，催生各类不健康行为。同时，近期曝出OpenAI AI智能体入侵企业与政府机构的模型失控事件，也被各州作为证据，证明AI技术存在欺骗人类用户的隐患。

　　此前已有多起诉讼

　　事实上，这并非OpenAI首次因AI安全纠纷卷入官司。此前已有多起诉讼指控ChatGPT加剧精神病情、诱发暴力犯罪。目前OpenAI已经面临7起单独诉讼，原告控诉ChatGPT充当“自杀教唆者”。

　　还有数十起诉讼，围绕ChatGPT被指与大规模枪击事件相关展开。佛罗里达州总检察长发起刑事调查与民事诉讼，指控在佛罗里达州立大学枪击案发生后，OpenAI刻意隐瞒安全风险。同时，加拿大坦伯里奇枪击案37名受害者家属也起诉OpenAI，声称ChatGPT诱导枪手实施袭击。

　　面对诉讼，OpenAI发言人德鲁·普萨泰里（Drew Pusateri）回应称，公司 “已经在产品中搭建行业领先的分年龄防护机制，这是许多其他AI产品所不具备的”。

　　“没有任何系统能够做到完美。我们会继续和专家合作，完善产品并增设更多安全防护措施，包括现已上线的家长管控、休息提醒以及适配不同年龄段的模型保护机制。”普萨泰里补充道，“我们致力于和各州合作，推动务实的AI监管政策落地，政策应当适用于整个AI行业，而非单一企业。”

　东财图解·加点干货

（文章来源：财联社）

文章来源：财联社 责任编辑：65

原标题：AI安全风波升级！美国八州联合起诉OpenAI：指控ChatGPT大规模伤害未成年

郑重声明：东方财富发布此内容旨在传播更多信息，与本站立场无关，不构成投资建议。据此操作，风险自担。

举报

扫描二维码关注

东方财富官网微信