OpenAI 与 Anthropic 要求英国为 AI 安全引入强制性法规

OpenAI 的代表和Anthropic向英国议会听证会表示，自愿承诺已不足以确保安全，应出台新法律；此举加深了它们与Google DeepMind和Meta之间的公开分歧，后两家公司均拒绝支持新立法。

由跨党派议员组成的商业、创新、科学与贸易委员会于周二举行了证据听证会，四家前沿 AI 公司、四名前员工（现为举报人）以及英国高级公务员出席作证。

当被问及公司的看法是否是AI 安全如今需要法定框架时，Anthropic 欧洲区负责人 Liam Booth-Smith 对委员会表示：“规则应该具有约束力。”他说，该公司“一贯认为，应有对企业具有约束力的规则，自愿承诺并不足够。”

OpenAI副总裁 Tom Duff Gordon 的态度更为谨慎，但仍表示支持法定框架和国际公约。Duff Gordon 表示，“有些方面应该是强制性的”，首先应从事件报告开始。他说：“我们认为，把前沿风险的所有事项都建立在自愿承诺之上，并不是一个好的长期方案。”

然而，它们的竞争对手并不打算跟进。被直接问及是否支持法定框架时，Google DeepMind 的 Owen Larter 表示：“我们会把重点放在标准上。”Meta 的 Rob Sherman 则提到了英国现有的监管机构，并告诉议员，这些机构“并非从一张白纸开始”。

听证会揭示了监管问题上已有的分歧，将 AI 领军企业相互冲突的立场记录在英国议会档案中。委员会主席 Liam Byrne 表示，让这种分歧在第二个司法辖区浮出水面正是委员会的目的。听证会结束后，他向 WIRED 表示，委员会希望“让地球上最富有的一些企业之间的巨大意见分歧显现出来”，并证明“不能依赖自愿自律”。

四位高管就 AI 安全向委员会作证时，几百米外的英国安全部门负责人正就 AI 的危险发出警告。

MI5 局长 Ken McCallum 在年度威胁报告中警告称，AI 被滥用于制造生物武器是一项重大威胁。McCallum 表示：“目前尚未发生，但我认为最值得重视的滥用情形，是 AI 有可能改变现有甚至新型生物武器所带来的风险级别。”

针对这番评论，Byrne 向 WIRED 表示：“MI5 负责人在白厅的一个部门警告说，AI 能力的提升可能让生物恐怖分子变得极其危险；而白厅另一个部门的内阁办公室常务次官却基本承认，我们的 AI 监管制度是自愿性的。这一切已经说明了你需要知道的一切。”

在证据听证会的最后一部分，公务员向委员会承认，现行制度的强制力有多有限。英国 AI 安全研究所（AISI）会在前沿模型发布前进行测试，但前提是企业自愿提交模型。

人工智能安全研究所（AISI）主任 Henry de Zoete 承认，该研究所完全依赖公司和外国政府的配合，才能获得访问权限。内阁办公室的最高级公务员 Cat Little 受到追问：整套机制是否完全自愿。内阁办公室下设 AISI。她说：“目前是的。”

当被问及如果 AISI 判定某个模型过于危险，但公司仍将其发布，会发生什么时，de Zoete 承认，AISI 无法阻止公司这么做。

“我们不会颁发 kite mark 认证，”de Zoete 说。他用的是英国对安全认证标志的称呼。“我们不会对任何类型的模型说可以或不可以。”他补充道：“这些公司要么是美国公司，要么是中国公司，它们正在开发前沿模型……在这种情况下，作为英国，我们能做的也有限。”

前沿模型公司的高管还明确表示，英国能否获得访问权限取决于华盛顿。“我们会在部署前向 CAISI 提供我们的模型，”OpenAI 的 Duff Gordon 说，他指的是 AISI 在美国的对应机构。“我们将继续在部署前向英国的 AISI 提供我们的模型……只要我们能够在美国政府的许可下这样做，我们就会继续。”

Anthropic 的 Booth-Smith 向英国官员明确指出，现有安排存在紧张之处。“遗憾的是，当时我们无法向英国 AISI 提供对 [Mythos 5.1] 的完全、不受限制的访问权限……这是美国政府要决定的问题，”他说，随后补充道，AISI 现在已经获得了访问权限。

听证会上还听取了四位前实验室研究人员的证词，其中包括 OpenAI 前员工 Daniel Kokotajlo。他对议员们说：“我认为不能相信这些公司会自我监管。”于 2024 年底离开 OpenAI 的 Steven Adler 表示，他“对整个行业的安全文化没有信心”。Geoffrey Irving 表示，各实验室认为自己陷入了一场政府不会干预、自己也无法退出的竞赛。“这两点都不对，”他说。“他们完全可以停下来。”

听证会结束后，Byrne 告诉 WIRED，他所在的委员会接下来将投入大量时间，审视英国作为 AI 中等强国的未来道路。他希望部长们利用英国即将担任的 G20 主席国任期，与之后接任主席国的韩国一道，促成一项不依赖现任白宫的国际公约。“G20 主席国任期将长于特朗普的美国总统任期，”他说。

他补充道：“风险增长的速度，已经超过了我们的安全机制所能控制的范围。”