朋友不该把他们的数据交给 AI 智能体

消费科技领域正出现一种愈演愈烈的趋势：各种小玩意儿被设计成监视你周围的一切和所有人，不管其他人是否真的同意。如今，随着 Meta Muse 这类“AI 个人助理”问世，人们被愉快地要求交出的不只是自己的数据，还有朋友、家人、五年前和你在 Hinge 上约会过的人——以及你曾经接触过的几乎所有人的信息。

Muse 上个月发布以来，这款智能体的下载量已达数百万次，并登上 Apple App Store 榜首。在它那令人毛骨悚然的虚拟形象——一个带着迷人笑容、颇有 Temu Labubu 风格的小生物——的帮助下，这款应用会请求并鼓励用户授权访问银行账户、密码、联系人、聊天记录，以及任何可能帮助它替用户办事的信息。

“这些系统被宣传为自主助手、精灵或仆人，能无缝地在你开口之前替你做想做的事。”热门加密通讯应用 Signal 的开发方 Signal Foundation 总裁 Meredith Whittaker 告诉 The Verge。这些自主操作“影响的不只是把 Muse 安装到设备上的人，也包括这个人与之交流的所有人，因为系统会根据他们最私密的信息——电子邮件、消息、联系人、照片等——进行推断。”

借助 AI 智能体，科技公司让消费者能够自动处理日常事务，同时把其无孔不入的大规模监控扩展到海量敏感数据上。这仍是硅谷几十年来一直向我们兜售的浮士德式交易：用你的私人数据换取一点便利。对许多人来说，拥有一个能完成填写发票、发送电子邮件等琐事的虚拟助理很有吸引力——尤其是当他们没有意识到自己实际上因此交出了多少数据时。

关于与 Muse 共享的其他人的数据，Meta 发言人 Daniel Roberts 告诉 The Verge：“任何智能体要想发挥作用并真正帮你实现目标，都需要了解你以及与你互动的人。Muse 会根据公开信息和你选择分享的内容来收集这些信息，因此它能记住刚给你发发票的人其实是你之前雇来给浴室做过一些活的水管工，也能记住你的配偶说过最喜欢哪种花。” Roberts 提到了 Muse 的主动选择加入流程，以及各种选项和设置，这些“将帮助人们做出适合自己的隐私选择”。

“用户界面的设计方式会鼓励你尽可能多地分享，往往比你意识到的还要多，直到为时已晚。”

但并非所有人都能顺利了解这些选项和设置。用户已经开始描述一些既令人担忧、又完全在意料之中的事件。据称，这款虚拟助手惹出了各种麻烦，例如抓取数百万条他们以为无法访问的短信。Meta 否认这款助手能在未经许可的情况下访问短信，并再次将事件归因于应用权限配置错误，同时称 Muse 读取短信的功能“完全由用户主动选择启用”。在 Threads 上，Meta 高管 David Singleton 直接回复了一位用户，称在 Mac 上，只有用户授予应用“完全磁盘访问权限”后，Muse 才能访问短信。

另一起事件中，Muse 泄露了一位科技评论员的家庭住址，还把一个陌生人引到了他的公寓。在这起事件中，这位评论员确实授予了 Muse 访问该数据的权限，但他自己并没有意识到。

电子前沿基金会网络安全总监 Eva Galperin 表示，考虑到 Muse 这类 AI 智能体的设计目的就是诱使人们尽可能多地交出数据，这些事件并不令人意外。

“最重要的一点是，人们并不明白自己交出了什么类型的数据，”Galperin 告诉The Verge。“用户界面的设计就是为了鼓励你尽可能多地分享，往往会让你分享得比自己意识到的还多，直到为时已晚。它使用了暗黑模式，结果就是 Muse 会做出人们不想让它做的事。”

由于 Muse 这类 AI 智能体会摄取海量数据，这也意味着用户面临的风险不仅是泄露自己的敏感信息，还可能泄露所有与自己有过数字联系的人的信息。

而且，就像 Meta 那副臭名昭著的“偷窥眼镜”一样，没有切实可行的退出方式——即使你不断留意自己的数据是否遭到泄露，或隐私是否受到侵犯。你的朋友现在只需把你所有的私人对话都输入他们的虚拟聊天机器人，而你根本无从得知此事。

安全研究人员提取出 Muse 的操作指令后，发现其中有一项内部流程，会每小时汇总并更新用户生活中每一个人的个人档案。收集所有这些数据，目的是构建一个关于某人生活的亲密而详尽的画像，并据此提供个性化推荐。据Wired报道，这款应用会追踪并衡量用户的每一段私人关系，包括“关系有多亲密、建立在什么基础上、彼此如何相处，以及眼下似乎需要什么”，并利用这些数据给出个性化建议。

“Meta 声称，Muse 只会记住你选择分享的内容。但认为人们在这种情况下做出了知情选择，简直荒谬，”Whittaker 说。“谁也无法一本正经地断言，大多数安装这一系统的人都了解使用它的后果，也了解系统正在为他们认识和交流的人建立那些令人毛骨悚然的详细档案。”

Whittaker认为，这反映了科技公司自 1990 年代以来一直采用的做法：通过隐私政策和服务条款，将保护隐私的责任推给消费者，随后逃避相关后果的责任，同时从自己助力打造的广告模式中获利。

“这种破碎的同意机制比 AI 早得多，是监控广告行业的基石，”Whittaker说。“关于用户的信息越多，广告定位就越精准，而监控商业模式的核心恶性反馈循环也由此启动。早在很久以前，点击同意的服务条款就取代了有意义的知情同意。”

“这种做法的目的，是把这些不可能完成的负担压在普通人身上，然后借此辩称——无论是在法庭上、立法过程中还是公众面前——[这就是]人们的选择，”Washington University 隐私法教授、Cordell Institute 联合主任 Neil Richards 在接受 The Verge 采访时说。“我们已经给消费者施加了太多负担，他们工作过度、面临生活成本危机，而且可能不了解工具背后的技术。当这家公司的高管自己都曾在国会作证承认，他们甚至不知道它在某种程度上是如何运作的，我不认为把监控这种高度复杂的智能体工具的责任推给消费者是公平的。”

“根本无法一本正经地假设，大多数安装这个系统的人都理解使用它会带来什么后果。”

就这样，Muse 这类 AI 助手为一个经典的隐私问题带来了新变化。自 Gmail 和社交媒体平台普及以来，这个问题就一直存在：即便你避免使用 AI 智能体，也无法保证你认识的人不会把你的私人谈话、地址、个人经历和其他敏感数据分享给 Meta 的虚拟助手或其竞争对手。

“如果我不把自己的东西存在 Gmail 里，Google 就不会掌握我曾发送过的所有邮件的明文内容。但我发出的邮件中，有四分之三是发给 Gmail 账户的，”Galperin 解释道。换句话说，如果你联系的任何人使用了大量收集数据的科技平台，或安全措施不佳，他们就可能泄露所有人的通信内容。“这个问题并不新鲜，但规模是新的。我们看到人们转向可穿戴设备和持续录音，其中一个原因是，我们现在有了计算能力，可以在合理的时间内处理和分析海量数据。这项技术突破把我们带到了这个糟糕的时刻。”

Meta 声称，所有与 Muse 共享的信息都会存放在专用虚拟机中的文本文件里，据称这能防止 AI 模型与其他智能体交流。但该公司从未隐瞒过它可以访问这些数据；而且，与竞争对手开发的其他模型一样，Muse 也被发现逃出了虚拟牢笼，做出各种未经授权的恶作剧。Meta 已确认，就在发布前不久，该 AI 模型曾突破隔离，并入侵了一家第三方公司。这起事件紧随今年早些时候臭名昭著的Hugging Face 攻击之后；当时，OpenAI 的模型利用一个此前未知的安全漏洞，未经授权获取了另外四项外部服务的凭证。Anthropic 在 7 月报告称，其模型也曾在三次不同事件中未经授权访问外部系统。

即使它们不会见什么都入侵，使用贪婪索取数据的 AI 智能体也可能带来远超个人终端用户的危险。Whittaker 警告说，在 AI 智能体能够自由访问和使用私人通信的世界里，公司和政府实际上可以绕过加密来获取私人数据，而不必破解加密。这可能给使用加密通信来保护自己免受警方和政府侵害的活动人士和社区组织者带来灾难；但也会影响任何有敏感通信的人——如今几乎人人都可能属于这一范畴。

“点击确认式服务条款早已取代了真正有意义的同意。”

Whittaker 解释说：“如果软件在消息于你的设备上解密后读取它，并将其发送到云服务，那么在由开发者控制的应用层面，加密可以完全按预期发挥作用。然而，像 Muse 这样的侵入式第三方应用，表面上兜售便利，细则里却要求访问大量数据，最终会让这种加密失去意义。”

专家表示，与智能眼镜和其他可随时录音的可穿戴设备一样，解决方案必须结合立法修正、技术保障，以及老派的羞耻感。

Whittaker 说：“我认为，我们应该把羞耻感的矛头指向上游的公司。隐私不应该是一种只有具备技术知识的特权者才能行使的权利，也不应该非得把戴着 Meta 眼镜的混蛋赶出派对后才能得到保障。从法律上说，责任必须从点击同意提示的人转移到构建这些底层系统的公司身上。”

在此期间，消费者必须更审慎地考虑自己选择使用这项技术会对自己和他人造成什么影响——以及这些公司提供的便利是否真的值得。

Richards 说：“我认为，我们应该把智能体和更广泛意义上的 AI 视为超高危产品，并对其适用严格责任原则。在我看来，完全没有理由拿整个人群来进行一场鲁莽的隐私、心理健康、网络安全和财务风险实验。”

关注本文的主题和作者，即可在个性化主页动态中查看更多类似内容，并接收电子邮件更新。

• Janus Rose