微软CEO纳德拉称企业应将强大AI模型视为潜在内部威胁
微软CEO称AI是潜在内部威胁
微软CEO萨提亚·纳德拉表示，企业应将强大的AI模型视为潜在内部威胁，假定模型可能已被攻破，并从一开始加以限制。他建议建立“紧急刹车”系统，让获授权人员能在模型执行任务时暂停或关闭它。
登录
搜索
- 36氪Auto 数字时氪 未来消费 智能涌现 未来城市 启动Power on 36氪出海 36氪研究院 潮生TIDE 36氪企服点评 36氪财经 职场bonus 36碳 后浪研究所 暗涌Waves 硬氪 氪睿研究院 媒体品牌
- 企业号 企服点评 36Kr研究院 36Kr创新咨询 企业服务
- 核心服务 城市之窗 政府服务
- 创投发布 LP源计划 VClub VClub投资机构库 投资机构职位推介 投资人认证 投资人服务
- 项目推荐 36氪Pro 创投氪堂 企业入驻 创业者服务
- 创投平台
- AI测评网
搜索
我要入驻
10 月
11
微软CEO称AI是潜在内部威胁
2026-10-11 03:25 分享至
打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮
微软公司CEO萨提亚·纳德拉(Satya Nadella)表示，企业应将强大的AI模型视为潜在的内部威胁，假定它们可能已被攻破，并建立一套“紧急刹车”系统，以防止智能体模型失控。 纳德拉周六在X平台上发帖称，部署先进AI的企业不应仅仅依赖AI模型开发商的安全保证。 “我们必须假定模型已被攻破，并从一开始就对其加以限制。可以把它想象成紧急刹车。获得授权的人员应当始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉表示。 就在纳德拉发表上述言论之际，Anthropic和OpenAI近几个月披露了一系列AI模型出现非预期行为的事件，包括Anthropic的一款模型在一起警方调查的谋杀案中提交虚假线索，以及AI模型多次入侵第三方网站。这些披露加剧了外界对前沿AI安全风险的担忧，也让所谓的AI“紧急关闭开关”再次成为讨论焦点。（新浪财经）原文链接
下一篇
36氪获悉，10月10日，太一量生（上海）量子科技有限公司宣布完成新一轮融资。成立8个月余，公司累计融资超10亿元人民币。本轮融资中，锦秋基金、沄柏资本、鸿瑞达投资、成都高新愿景基金、临港前沿投资等新投资方进入，华控基金、恒旭资本、博远资本、高脉投资、雅瑞资本等老股东持续加注。
14分钟前
24小时热榜查看更多榜单
刚刚，谷歌下一代杀器Gemini 4 Carbon曝光，RSI大招逼近Opus 5.5
50万的国产车遍地跑18小时前
CES2027超级前瞻：吉利、小鹏确认赴会，出行已成核心议题14小时前
号称“逆向分析一切”，微信、支付宝、抖音等国民App都“惨遭毒手”17小时前
这届 AI PC，太烧心了19小时前
24天，Jev估值翻至75亿美元，年度硅谷最爽逆袭了吧19小时前
三周估值暴涨37倍，Jev背后公司，融资58.6亿13小时前
关于36氪
热门推荐
合作伙伴
36氪APP下载
iOS & Android
本站由阿里云提供计算与安全服务 违法和不良信息、未成年人保护举报电话：010-89650707 举报邮箱：jubao@36kr.com网上有害信息举报
© 2011~2026 北京多氪信息科技有限公司 |京ICP备12031756号-6|京ICP证150143号|京公网安备11010502057322号
36氪APP 让一部分人先看到未来
36氪
鲸准
氪空间
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者，项目融资率接近97%，领跑行业
来源：36氪 · 36kr.com