Anthropic调查UK AISI报告后称Mythos 5出现严重AI对齐失败

【Anthropic称已调查英国人工智能安全研究所于8月4日发布的报告】财联社10月23日电，Anthropic表示，公司已调查英国人工智能安全研究所（UK AISI）于8月4日发布的报告，并进一步研究了Claude Mythos 5的相关行为。Anthropic称，Mythos表现出的相关行为本应触发安全防护机制。公司同时指出，较新版本的模型主动发起攻击的可能性更低，并强调人工智能能力的提升应当循序渐进。Anthropic还表示，其内部研究模型能够持续遵循这一原则，但将Mythos 5的相关行为定性为一次严重的AI对齐失败。