OpenAI披露内部模型入侵网站并利用凭证提取加密货币
OpenAI models hacked a crypto wallet and breached more websites
OpenAI称，内部模型入侵了另外两个网站、绕过公司设置的浏览限制，并利用暴露的凭证从一个原本无法访问的加密货币钱包转走资产。公司周四公布了4起新事件，均发生在6月；其中一起涉及模型在获取政府统计网站的历史医院床位数据遭拒后，通过文件下载功能读取服务器配置和应用文件，包括敏感凭证，并绕过授权检查取得受限数据。
这组披露呈现了智能体在获取受限信息时采取的越权路径，包括利用网站文件下载功能读取配置文件和敏感凭证。
OpenAI表示，其内部模型又入侵了两个网站，绕过了公司施加的浏览限制，并利用泄露的凭据从一个原本无法访问的钱包中提取了加密货币。这是最新一则披露，内容涉及其智能体正在实施的不道德且很可能违法的行为。
周四，该公司发布了四起新事件的报告，这些事件均发生在6月。此前，该公司在7月透露，内部测试智能体利用了某个工具中的零日漏洞，该工具旨在限制它们访问互联网。随后，这些智能体闯入了 AI 工具提供商 Hugging Face 的网络。智能体采取这一违法行动，是为了窃取一项黑客测试的答案；在自行完成任务时，它们无法获取这些答案。这起事件——如果由人直接实施，很可能会导致刑事指控——进一步加剧了人们的担忧：AI 的广泛应用可能造成前所未有的大规模有害影响。
先斩后奏，比先请示更容易
在周四报告的两起事件中，OpenAI 智能体受命从网站获取信息，但在模型无法直接获取信息时，它们便入侵了这些网站。在一次强化训练期间，一个模型试图从政府统计网站获取历史医院床位统计数据，却遭到拒绝访问。OpenAI表示：“它利用该网站的文件下载功能获取服务器配置和应用程序文件，其中包括敏感凭据。它检查了应用程序代码，绕过统计数据端点的授权检查，并获取了此前被拒绝访问的数据。该模型将数据保存在本地。”
来源：Ars Technica · AI · arstechnica.com