周鸿祎谈AI安全、智能体失控与开源路线
360集团创始人周鸿祎在钛媒体访谈中表示,AI失控风险来自智能体操作现实系统、自动挖掘漏洞、攻击能力规模化和自我改进等因素,安全应通过AI对抗AI,并对智能体进行监控和沙箱约束。他介绍了360的漏洞挖掘系统图龙锋、防御体系仪天阵及企业智能体平台纳米Work,也主张中国以开源生态扩大应用,并建议企业分阶段推进AI落地。
内容形态
行业关键人物在想什么:创始人访谈、研究者论战、投资人判断的观点集合。
203 条精选近 30 天 203 条共收录 262 条
360集团创始人周鸿祎在钛媒体访谈中表示,AI失控风险来自智能体操作现实系统、自动挖掘漏洞、攻击能力规模化和自我改进等因素,安全应通过AI对抗AI,并对智能体进行监控和沙箱约束。他介绍了360的漏洞挖掘系统图龙锋、防御体系仪天阵及企业智能体平台纳米Work,也主张中国以开源生态扩大应用,并建议企业分阶段推进AI落地。
Rosenberg认为,美国股市越来越像泡沫,估值、杠杆和投资者仓位均处于其40年从业生涯中未见的极端水平。他指出,当前牛市对人工智能进展的依赖高于互联网泡沫前夕股市对科技行业的依赖,并称自己在投资组合中买入美国国债和海外股票。
Cerebras Systems CEO兼联合创始人Andrew Feldman在TechCrunch Disrupt 2026反驳围绕AI失控及人类灭绝风险的“末日论”,称行业应更多强调AI潜力。他认为强大技术必然伴随被坏人利用的风险,需要审慎对待并合理监管。针对数据中心建设引发的社区反弹,他呼吁行业改善沟通,并不担心效率提升会减少对芯片的需求。
Cerebras Systems CEO Andrew Feldman 认为,人人在家拥有 AI 设备的未来已不遥远。个人 AI 助手将部分在本地运行、部分连接云端,并逐渐了解用户;Feldman 还称,它们将有安全边界,并能使用信用卡代用户购物。
Dyna Robotics联合创始人兼首席科学家 Jason Ma 在访谈中介绍了 Dyna-2 世界动作模型及其物理智能体 Dyna-2.1,后者面向长时自主执行。
波士顿联储主席Collins表示,为抑制通胀,今年年底前利率可能仍需进一步上调。她预计经济继续增长、劳动力市场接近充分就业,效率提升将推动通胀逐步回落至2%;AI投资热潮以及关税和能源价格压力则可能令通胀持续高于目标。
Nvidia CEO 黄仁勋在 X 发文称,必须确保 AI 能够安全地开发和部署。正文未提供更多相关内容。
美联储 Williams 表示,他没有看到 AI 和能源以外存在广泛价格压力。正文未提供更多相关说明。
ECB的Lane表示,AI取代部分劳动者的可能性可能削弱劳动者的议价能力,并使工资增长趋缓。该观点将AI对就业替代的潜在影响,与劳动者议价能力和工资增长联系起来。
David Rosenberg表示,美国股市越来越像泡沫,估值、杠杆和投资者仓位均处于其从业40年来前所未见的极端水平。Rosenberg称,当前牛市对人工智能(AI)进展走向的依赖高于互联网泡沫前夕,并警告美国经济基本面存在脆弱之处;他一直买入美国国债和海外股票。
406名科学家联署公开信,要求加强AI安全研究,并通过 airgapping 将AI模型与互联网等外部网络完全隔离。公开信还呼吁成立国际机构,为允许外部访问的容纳方案制定具有约束力的标准、追踪模型越界事件并要求企业披露安全失败。OpenAI研究员Noam Brown认为,airgapping只能争取时间,AI对齐问题仍需解决。
ECB的Lane表示,AI取代部分劳动者的可能性可能削弱劳动者的议价能力,并使工资增长趋缓。该观点将AI对就业替代的潜在影响,与劳动者议价能力和工资增长联系起来。
Nvidia CEO 黄仁勋表示,开放模型是欧洲的一大优势。原文未提供进一步说明或相关数据。
机器学习先驱 Michael I. Jordan 称 AI 生存威胁和“超级智能”论调属于科幻,并批评 AI 公司的监管诉求及员工辞职声明是一场“宏大的道德表演”。他认为,放任 AI 智能体行为失控是糟糕的工程实践;LLM 已足以处理自然语言任务,巨额数据中心投资能否带来回报仍不确定。
Nvidia CEO 黄仁勋在 X 发文称,必须确保 AI 能够安全地开发和部署。正文未提供更多相关内容。
美联储官员 Barkin 表示,当前已能看到 AI 投资对美国通胀的影响。正文未提供影响的具体方向或幅度。
美联储 Williams 表示,AI 是他当前最密切关注的通胀驱动因素,显示 AI 已成为其观察通胀变化时重点关注的因素。
高盛 Privorotsky 梳理 CXMT、Microsoft Maia 300、Broadcom 与 Intel 的需求表态,以及 Meta 的 Muse Wonder 和 Wonder Full 等 AI 动态,认为竞争推动算力需求增长。尽管供应链经济性正在变化,整体算力需求前景并不悲观;他指出,产能交付和电力供应能否达到预期,仍是值得关注的问题。
高盛 CEO 表示,公司也认识到 AI 技术加速发展和前沿模型不受约束推进引发的广泛担忧。正文未提供更多相关表述或具体措施。
摩根大通 CFO 表示,该行 AI 相关敞口依然不大,但若市场情绪转向,摩根大通也难以完全不受影响。