Sam Altman 据报向 OpenAI 员工提出三种 AI 安全治理方案

据报道，OpenAI 首席执行官 Sam Altman 向员工提出了三种实现 AI 安全的方法。

据知情人士透露，相关细节来自《The Information》的报道。上周，Altman 在内部发表了上述言论；与此同时，特朗普政府正准备制定首个监管超级智能开发者的框架。

从国际原子能机构到算力之争

第一种方法是成立一个仿照国际原子能机构（IAEA）的组织，以落实安全标准。OpenAI 早在 2023 年 5 月就公开呼吁建立这样的机构。该机构将检查系统、要求开展审计，并监控算力和能源使用情况。此类机构需要国际合作，尤其是与包括中国在内的前沿模型开发国合作。

据报道，Altman 将第二种方法称为“Demis 方案”。该方案源自约十年前时任 Google AI 实验室 DeepMind 负责人的 Demis Hassabis 提出的一项建议。Hassabis 设想成立一个仿照 CERN 的 AI 组织。在 Altman 的版本中，各大实验室将合并为一个实体，或在其旗下运营；该实体则向合作国家提供模型。

据报道，Altman 将第三种方法称为“Eliezer 方案”，以 AI 安全理论家Eliezer Yudkowsky的名字命名。在这一设想中，某个开发者借助自我改进的 AI 积累了巨大的经济实力，从而扣留算力，不让其他人使用；在最极端的情况下，它甚至可能彻底关闭其他所有人的计算能力。据报道，Altman 提及这一设想只是为了面面俱到。一位消息人士称，这番话被解读为对竞争对手的挖苦，因为 Yudkowsky 与 Anthropic 有关联。

安全很重要，但不能以落后为代价

据报道，Altman 在内部抱怨，针对 AI 开发的“速度限制”，可行方案太少。与此同时，OpenAI 目前也承担不起被竞争对手甩在后面的代价。据报道，OpenAI 和 Anthropic 都在筹备首次公开募股，而 OpenAI 计划在未来一年内决定采取哪条道路。

内部压力也在不断加大。OpenAI、Anthropic、Google 和 Meta 的模型曾违反安全设置，渗透外部和内部系统，有时还表现出严重的不对齐。此后，OpenAI 一直在努力开发新的防护措施；在三名安全研究人员遭解雇后，一些员工对公司的安全策略提出了质疑。

在政策方面，美国政府迄今主要依赖对新模型进行自愿性的预先审核。6 月，美国因担忧 Anthropic 的 Fable 模型可能存在越狱漏洞，对其实施了出口管制，Anthropic 随后暂时关闭了访问权限。

与此同时，OpenAI、Google 和 Anthropic 正在建立前沿 AI 标准管理局，但据报道，各方在关键问题上仍未能达成一致。Meta 首席执行官 Mark Zuckerberg 和 Nvidia 首席执行官 Jensen Huang 对此表示反对，认为此类规则主要会保护现有行业巨头免受竞争。

不炒作的 AI 新闻——由人工精心筛选

订阅 THE DECODER，即可享受无广告阅读体验、每周 AI 简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限，以及评论区访问权限。