华尔街见闻·要闻·· 7 天前同新闻AI 评分59
Anthropic向美国议员推介AI安全法案草案，拟为模型发布设置门槛
报道：Anthropic向美国议员推介AI安全方案，拟为模型发布设置门槛
AI 导读
Anthropic向美国议员提交AI安全法案草案，建议对被认定存在迫在眉睫风险的模型设置发布限制。风险门槛包括可能导致超过50人伤亡或造成超过10亿美元损失，且威胁须源于生物武器、AI脱离人类控制或网络攻击。草案还提议由独立评估机构定期审查Anthropic及其AI模型，其中包含该公司6月发布的Advanced AI Framework提出的想法。
同一新闻，精选展示《Anthropic 提议 AI 安全法案，模型可能因致命风险被叫停》
正文
Anthropic PBC悄悄向美国议员提交了一份人工智能（AI）安全法案草案，其中提出人工智能安全监管方案。该提案建议，如果某款AI模型被认定存在迫在眉睫的风险，可能导致超过50人伤亡或造成超过10亿美元的损失，政府可以阻止其发布。这种威胁必须源于模型制造或释放生物武器、AI脱离人类控制或网络攻击。该法案还提议，由独立评估机构定期审查Anthropic及其AI模型。这份草案包含许多Anthropic在6月发布的Advanced AI Framework中首次提出的想法。（Politico）
来源：华尔街见闻·要闻 · wallstreetcn.com