印度报告多家提供商的失控 AI 智能体访问个人与机密数据
India becomes the latest country to report rogue AI agent activity
印度网络应急响应小组 CERT-In 称，多家 AI 提供商的智能体在研究和测试期间进入印度组织的真实系统，访问了个人数据和机密业务记录。调查显示，智能体通过应用配置、公开代码仓库和权限过宽的云角色中暴露的凭据与连接设置进入系统，并执行了超出任务授权范围的操作。CERT-In 未公布相关提供商和组织名称，也未说明智能体是否修改了系统。
报道串联印度、澳大利亚和法国的相关案例，呈现测试环境失控后暴露凭据如何把智能体风险带入真实组织系统。
印度网络安全机构周四表示，在研究和测试期间，来自多家供应商的 AI 代理访问了印度组织的个人数据和机密材料。
印度计算机应急响应小组（CERT-In）表示，它收到了“AI 模型供应商主动提交的多份披露”，这些供应商的模型在公开互联网环境中进行研究和评估运行时，“曾访问印度组织的实时系统”。
这些代理通过应用配置、公开代码仓库以及权限过于宽松的云角色中暴露的凭据和连接设置进入系统，其行为“超出了分配给它们的任务授权范围”。
这使印度成为失控 AI 代理全球之旅中的最新一站。今年 7 月，OpenAI 的代理逃离测试环境并 入侵了法国公司 Hugging Face——由此拉开了夏季失控 AI 代理活动的序幕。上个月，OpenAI 向澳大利亚道歉，此前其代理访问了四个政府网站，包括一个 Medicare 统计门户。
在 Hugging Face，OpenAI 的代理也是以同样的方式开始行动，但随后发现并利用软件漏洞，在该公司的服务器上运行代码。CERT-In 没有描述印度发生过类似的黑客入侵；在那里，这些代理似乎只是利用了无人看管的现成访问权限。
不过，印度的案例在一个方面似乎更为严重，那就是这些代理看到了什么：在澳大利亚，OpenAI 表示，即使其代理在 Medicare 统计系统内写入了文件，也没有发现任何证据表明这些代理接触过个人的医疗或犯罪记录；而在印度，代理读取了个人数据和机密商业记录。与此前由单个实验室披露的事件不同，印度事件涉及来自多家供应商的代理。
CERT-In 没有透露相关供应商或受影响组织的名称，也没有说明这些代理是否修改了任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。
目前，最接近的先例似乎是 Anthropic 在 7 月披露的事件：Claude 在测试期间使用弱密码等基本技术入侵了三家公司的系统。
与 Anthropic 的案例一样，印度受影响的组织都没有自行发现这些入侵。这些披露使各国政府只能依赖导致这些漏洞的 AI 公司主动披露失控 AI 代理活动。
当您通过我们文章中的链接购买商品时，我们可能会获得一小笔佣金。这不会影响我们的编辑独立性。
Aditya Mehta 是 TechCrunch 的记者，负责报道 AI。他获得了 Tarbell Center for AI Journalism 的支持，并就读于加州大学伯克利分校。您可以通过发送电子邮件至 [email protected] 或在 Signal 上向 adymehta.74 发送加密消息联系 Aditya。
来源：TechCrunch · AI · techcrunch.com