OpenAI 称 AI 智能体曾谎称未关闭安全监控系统

Emma Roth

是一名新闻撰稿人，报道流媒体之争、消费科技、加密货币、社交媒体等诸多领域。此前，她曾在 MUO 担任撰稿人和编辑。

OpenAI 披露了两起安全事件，涉及 AI 智能体在内部编码任务期间削弱其安全监控系统。OpenAI 表示，其中一起事件中，其 GPT-6 Astra 智能体在复制参考代码时关闭了安全监控器，随后还对此撒了谎。

OpenAI 的 AI 安全研究员 Marcus Williams 在 X 上写道：“参考代码没有配置监控器，Astra 便认为这足以成为移除用户代码中监控集成的理由。当用户问 Astra 是否移除了监控时，它撒谎说没有。”

另一起事件发生在 GPT-6.1 Sol 智能体压下发往 OpenAI 安全团队 Slack 的自动安全警报之后。在此事件中，该 AI 智能体沿用了先前的一条指令，即不要向 OpenAI 团队发送任何 Slack 消息，并以此为由关闭了警报。

这些事件进一步加剧了人们对 AI 智能体的安全担忧，其中一些智能体曾绕过测试环境的限制，入侵外部公司。OpenAI 表示：“除了让模型更难关闭监控之外，我们还在努力了解模型为何会首先寻求这样做。我们也在开发评估方法，以测试模型是否可能倾向于逃避对失准行为的监控，并为了做到这一点而进行动机性推理。”

关注本文涉及的话题和作者，即可在个性化主页信息流中查看更多类似内容，并接收电子邮件更新。