Anthropic 向 METR 开放内部访问以审查 AI 模型与安全实践
Anthropic gives METR inside access to audit its AI models and safety practices
Anthropic 向非营利组织 METR 的团队开放内部访问，审查其 AI 模型和安全实践。6 名 METR 员工获得公司硬件、办公空间和内部工具访问权限，但客户数据、受律师—客户特权保护的信息和模型架构细节仍不可访问。METR 将独立发布调查结果；Anthropic 可按预先界定的类别要求删节，METR 则可公开评价删节是否合理。
这项安排明确了外部审查者能接触的内部资源、仍受限的信息，以及 METR 对删节的公开评价权，呈现了安全审查透明度与保密边界之间的具体做法。
Anthropic 宣布，该公司已允许非营利组织 METR 的一个团队深入审查其 AI 模型和安全实践。 METR 的 6 名工作人员获得了 Anthropic 提供的硬件、办公空间以及内部工具的访问权限。Anthropic 表示，这使他们大致能够与公司自己的风险团队处于同等水平。
客户数据、受律师—客户特权保护的信息，以及模型架构的细节仍然禁止访问。METR 将独立发布其调查结果。Anthropic 表示，在某些预先定义的类别中，公司可以要求对内容进行删节，但 METR 可以公开说明其是否认为这些删节是合理的。
Anthropic 认为，并非所有与安全相关的信息都能公开，要么是因为这些信息可能帮助攻击者，要么是因为它们涉及商业敏感内容。METR 这项合作所获得的权限超过了该公司向其他外部审查机构提供的权限。截至目前，SecureBio、Accenture 和 Faculty 获得的访问权限较少，能够发布的内容也受到更严格的限制；Anthropic 还已开始与 Hugging Face 进行初步洽谈。此举是在 Anthropic 签署《White House Accord on Super Intelligence》之后进行的，该协议包含与外部审查机构合作的承诺。
不炒作的 AI 新闻 – 由人类精选
订阅 THE DECODER，享受无广告阅读、每周一期的 AI newsletter、每年 6 次独家“AI Radar”前沿报告、完整存档访问权限以及评论区访问权限。
来源：The Decoder · the-decoder.com