名人AI深度伪造内容在社交平台传播，Mia Goth伪图误导用户

事后看来，Instagram 上的那条帖子本该引起更多警觉。图片声称展示了女演员 Mia Goth：她刚向演员兼电影制作人 Shia LaBeouf 提交离婚申请几天，就身穿一件印有挑衅性文字的 T 恤摆拍：我的前任是我最大的粉丝。为了让意思更加明确，帖子还配上了 Beyoncé 的歌曲《Single Ladies (Put a Ring on It)》。

对于《Pearl》的主演来说，这种做法有些反常；她几乎没有社交媒体影响力。但发布这张图片的 Instagram 账号 @miagoth_ 拥有超过百万名粉丝，还带有蓝色“已认证”标记。短短几天内，这张图片就收获了近 500,000 个赞，其中包括娱乐圈同行的点赞，尽管该页面标注为粉丝账号。

正如 The Verge报道的那样，这张图片是 AI 生成的。Goth 的代表表示，他们此前曾就该账号发布 Goth 的“伪造 AI 图片”向 Instagram 投诉。Meta 允许用户购买蓝色“已认证”标记，即使账号并非由知名人士运营，也不是官方页面。

“这个粉丝账号符合 Instagram 获得‘蓝标’的标准，从根本上说令人不安，”Goth 的代表 Christine Tripicchio 在发给 The Verge 的邮件中表示。“除此之外，Instagram 显然优先传播伪造和篡改的图片，而不是保护公众人物的肖像及其完整性，这令人难以理解。”

由于她离婚的消息，这条帖子逐渐被名人八卦媒体报道；这些报道又让帖子通过 Google 搜索进一步传播。搜索这位女演员和这件 T 恤时，会触发一则 AI 生成的概述，称 Goth 在“近期提交离婚申请后，明确地嘲讽了前任 Shia LaBeouf”，并引用了上述博客。Google 搜索结果中还醒目地展示了一个标题为“Mia Goth 身穿俏皮的‘我的前任是我最大的粉丝’T 恤，在 Instagram 上吸引目光”的板块，并附有讨论这张图片的社交媒体帖文链接。Instagram 最终以冒充公众人物为由删除了该账号。

几年前，面向消费者的生成式 AI 工具刚刚问世时，一些令人印象深刻、也颇具争议的应用案例都涉及名人。相关人物历来不乐于被数字克隆、当作玩物：一首AI 生成的 Drake 仿声歌曲在遭到版权投诉后被 YouTube 下架。OpenAI 未经 Scarlett Johansson 同意，推出了一种听起来像她的 ChatGPT 语音，此后她聘请了律师团队。据称，Ariana Grande 去年拉黑了一个发布她的 AI 生成内容的账号。Taylor Swift 于 2024 年公开支持 Kamala Harris 竞选总统，并表示，在 Donald Trump发布暗示她支持他的虚假图片后，她觉得有必要澄清自己的立场。

曾有那么一段时间，人人都在摸索新技术的使用规范，即便是富人和名人也不例外。如今，网上 AI 内容的泛滥愈演愈烈，而是否有人试图或有能力阻止这一切，仍不清楚。

描绘女性公众人物的 AI 内容往往带有露骨的色情意味。一个专门发布 Johansson AI 生成图像的账号——其中经常 prominently 展示赤脚——还提供了联系信息，以便企业在该账号上投放广告，同时附有 Patreon 和 Telegram 频道的链接，用于销售订阅服务。该账号在平台外发布的内容使用 Johansson 的姓名和（AI）图像来宣传成人内容。另一个账号则发布 Millie Bobby Brown、Zendaya 和 Grande 等演员及音乐人的逼真 AI 生成图像，人物总是衣着暴露或处于性意味十足的姿势。有些账号还有自己的细分主题，比如“怪奇物语演员彼此结婚”。

在 The Verge 就八个发布名人深度伪造内容的账号询问 Meta 后，发言人 Alex Dziedzan 表示，公司已经删除了其中一些账号。其中两个——那个 Goth 账号和 Johansson 账号——似乎已经被撤下。

“无论内容是真实的还是由 AI 生成的，我们都不允许账号使用他人的肖像冒充该个人，”Dziedzan 在一封电子邮件中说。

Taylor Swift 手里拿着一杯饮料，跟着 Drake 的《Burning Bridges》饶舌，连脏话也没省。“I’m off a [Quaalude]/it make my body tingle，”她唱道，身上穿着那场命运般的 2009 年 VMAs 时刻中的裙子。显然，这段视频是 AI 生成的。它在 Instagram 上获得了 180 万次观看。

“我觉得她的公关团队不会喜欢她说 N 词，”有人评论道。

Instagram 上充斥着这样的视频，而且经常莫名其妙地遵循非常具体的格式。一段 AI Shrek 做着与 AI Swift 相同事情的视频获得了 310 万次观看。这是 Steve Jobs，手里拿着一瓶香槟，随着 Drake 的另一首歌趾高气扬地走动（37.1 万次观看）。另一个账号还发布了一段一模一样的 Lionel Messi 版本（210 万次观看）。这里是一级方程式车手 Lewis Hamilton 和 Max Verstappen 对口型演唱 Bruno Mars 与 Rosé 的《APT》（290 万次观看）。另一段视频展示了 AI Swift 与 AI Travis Kelce 在 AI 麦迪逊广场花园举行婚礼。

“ai 他穿的是白色礼服，”一位粉丝热心地核实道。

在缺乏全国性公开权法律的情况下，涉及真人的 AI 生成内容正由平台层面进行诉讼。（美国的《Take It Down Act》于 2025 年签署成为法律，明确将传播未经同意的私密影像——包括 AI 生成的内容——定为犯罪，并强制平台在 48 小时内将其删除。）

YouTube 具备肖像检测功能，这或许是最强大的深度伪造监测和下架系统。在该计划下，YouTube 会扫描其平台，查找与某个人的视觉匹配内容——最近也开始查找声音相似内容——并允许相关人士申请下架这些内容。并非所有下架申请都会被接受；该公司表示，在评估下架申请时，会考虑公共利益、新闻价值和当事人同意等因素。该计划最初面向名人、内容创作者、政治人物和记者等公众人物开放，但现在已涵盖每一位拥有 YouTube 账号的成年人。过去，该公司曾表示，它收到的下架申请数量相对较少。创作者希望了解 YouTube 上发布了哪些关于自己的内容，但这些内容最终往往“对他们的整体业务而言相当无害，甚至有所助益”，创作者产品副总裁 Amjad Hanif 在3 月的一场媒体简报会上表示。

静态图片不受 Meta 的 AI 标注要求约束

YouTube 发言人 Jack Malon 在给The Verge的电子邮件中指出，该公司的肖像检测功能是与娱乐行业合作开发的。Malon 表示，2026 年上半年，YouTube 删除了通过该计划报告并要求下架的视频中的 95% 以上。

Meta 平台上的 AI 生成内容通常会带有标明其 AI 生成属性的标签。一些内容，例如人物的逼真视频或 AI 生成声音的音频，必须带有 AI 标签。不过，静态图片不受标注要求约束——这意味着，根据 Meta 的规则，那张虚假的 Mia Goth 图片不需要披露。该公司还推出了“AI 生成的个人资料”标签；在大量 AI 网红类型账号涌入平台后，该标签适用于整个账号，前提是头像所描绘的人物在现实世界中并不存在。

但有一个小型产业，专门批量制作真实人物的 AI 生成图像，而算法似乎偏爱这类内容。其中一些内容并没有明显的恶意，只是有些奇怪：例如，Facebook 上有一种AI 生成的电影首映式视频，原版电影的演员（身着戏服）会与重选演员版本中的演员一起走红毯。某个账号还宣传每月 29 美元的线上课程，教人如何通过 AI 内容赚钱。

AI 生成的名人内容也可能真正骗过人，让人误以为它是真的，Goth 的那张图片（以及发布该图片的账号）就是如此。那条走红的具体帖子暗示，这位女演员在嘲弄 LaBeouf；LaBeouf 曾被另一位前伴侣指控虐待，并且曾在2015 年被拍到说，如果他继续和 Goth 争吵，“本来会杀了[Goth]”。这张假图片引人注目、颇为可疑，而且发布时机恰到好处——换句话说，非常适合在社交媒体上病毒式传播，但也可能给相关各方带来风险。这起事件说明了本应防止此类混淆的信任与安全机制存在失效。

在社交媒体上，AI 内容与真实图片的普通转发自由地混杂在一起。即使某个页面被下架，仍有其他页面继续发布内容：另一个仍在运营的 Instagram 账号拥有超过 300,000 名粉丝，持续发布 Johansson 的图片和视频，看起来其中既有真实图片，也有 AI 生成的内容。该账号最受欢迎的帖子之一看起来是 Johansson 的一张 AI 图片，点赞数接近 500,000。按照 Meta 的规定，该图片没有标注 AI。经过深度伪造的 Johansson 躺在沙发上，赤脚醒目地展示在画面中。显然，那不是她——但评论区里的粉丝要么不知道，要么并不在意。

关注本报道涉及的话题和作者，即可在个性化主页信息流中查看更多类似内容，并接收电子邮件更新。

• Mia Sato