纳德拉呼吁为AI模型设置紧急制动

Microsoft CEO Satya Nadella 呼吁从一开始就假设 AI 模型已受损，并对其进行隔离，同时确保授权人员能够在任务执行期间暂停或关闭模型。他还主张加强透明度，留下防篡改、可供人类阅读的证据，并推动事故及时披露、独立审计和数据可验证。

Microsoft CEO Satya Nadella 呼吁重新审视 AI 的信任架构，为模型配备“紧急刹车”，避免将其视为只能接受或拒绝结果的黑箱。 他建议分离模型与编排工作的 harness、外置控制和安全措施，并记录每项重要模型操作，使授权人员始终能在任务进行中暂停或关闭模型。

微软CEO Satya Nadella呼吁企业将强大的AI模型视为潜在内部威胁，假定模型可能遭入侵，并预先建立“紧急制动”机制。获授权人员应能在模型执行任务时暂停或关闭模型，企业不应只依赖模型开发商的保证。