MIT Technology Review:我们对 AI 拒答能力寄予了过多信任
文章指出,AI 公司依靠模型训练和分类器让模型拒答有害请求,但拒答机制具有概率性,可能被越狱绕过,也会误拒无害问题。作者认为,拒答能力既难以可靠阻止伤害,也可能被公司或政府用于限制言论;随着 AI 被用于更多关键系统,隐性拒答和不可控的拒答行为同样带来风险。
内容形态
正在发生的行业级变化:使用习惯迁移、能力涌现、社会影响与市场格局的观察。
1,031 条精选近 30 天 1,028 条共收录 2,017 条
文章指出,AI 公司依靠模型训练和分类器让模型拒答有害请求,但拒答机制具有概率性,可能被越狱绕过,也会误拒无害问题。作者认为,拒答能力既难以可靠阻止伤害,也可能被公司或政府用于限制言论;随着 AI 被用于更多关键系统,隐性拒答和不可控的拒答行为同样带来风险。
具身智能项目估值在两个月内上涨三倍,投资人陈明在国庆假期主动联系创始人争取融资份额,反映出资本集中涌入赛道、项目融资节奏加快。IT桔子数据显示,2026年上半年国内具身智能融资总额超过900亿元,融资事件超过300笔,人民币融资平均单笔金额升至5.5亿元。
谷歌正把模型、智能体、搜索策略、芯片和数据中心纳入递归式自我改进(RSI)布局,试图让AI参与研发,并以改进研发系统来加快下一代模型开发。文章梳理了Dream-RSI、RRSI和AlphaEvolve等进展,以及不同公司对RSI的理解和验证难题。对谷歌而言,RSI也关联着如何提高巨额AI投入的研发回报,并争取行业竞争节奏。
中国 AI 产品出海正从供应链部署转向持续验证用户需求,但产品定位、用户理解和全球增长成为新的难点。AI Chatbot 与 Agent 改变软件分发路径,产品还需让 AI 理解、选择并调用。Agent 出海则须从产品和系统设计阶段考虑不同市场的语言、数据、模型、工具权限与组织协作。
文章比较爱奇艺与B站的内容供给和经营模式,认为爱奇艺的集中采购模式承受内容成本压力,B站依靠UGC和创作者生态推动广告增长。二季度,B站广告收入同比增长28%,爱奇艺在线广告收入同比下降2.02%;但B站创作者收益下滑,用户增长和付费业务也面临压力。两家平台的AI策略不同,B站将投入集中于视频理解、分发和创作,爱奇艺则计划用AI制作短剧、漫剧及部分长剧。
Robotaxi行业正进入商业化下半场,竞争重点从测试里程和技术参数转向通过跨界合作整合资源、跑通商业闭环。哈啰、滴滴、T3出行、萝卜快跑、曹操出行分别押注算力、分工、效率、出海和生态,Waymo也与吉利达成深度战略合作,并承担127.5%关税进口中国整车。政策开放、大模型能力提升及核心硬件降价,共同推动规模化商用。
全国已建成启用70多家具身智能训练场,另有40余家在建或规划中,并形成长三角、京津冀、珠三角三大核心集群。实训数据正用于真机训练,深圳的轮臂式人形机器人已能完成开关电柜、启闭工业阀门等作业。
汽车产业一百四十年的供应商史反复回答同一个问题:谁掌握产业主权。文章以博世、德尔福等案例指出,供应商保持中立、车企掌握产品定义权、品牌所有权和渠道主导权,是产业分工的关键边界。智能电动时代,平台层趋于集中、整机品牌仍由众多车企竞争,平台能否保持开放与中立至关重要。
梅卡曼德上市后,首份财报显示其2026年上半年收入2.37亿元,同比增长54.7%,其中91.1%来自机器人引导业务。Mech-GPT和Mech-Hand尚处商业化早期,公司预计二者2027年下半年形成实际商业规模收入;文章分析了产品交付、竞争和产业链变化带来的挑战。
三星三季度营业利润同比增长 782.5%,但韩媒报道称其移动事业部要求合作厂商将供应量削减 20% 到 30%,四季度手机产量最多减少三成。文章将手机业务承压与内存涨价联系起来,称 12GB LPDDR5X 二季度报价同比上涨 175%,单机内存成本增加约 90 美元。三星未确认减产消息,移动业务亏损数字来自分析师和券商测算;四季度手机减产还包含季节性因素。
AI Coding降低了编程门槛,2026年上半年中国举办了近500场黑客松,但活动热闹并不等于主办方能盈利。文章比较了2万元到120万元的办赛成本,并梳理政府、企业和年轻参赛者投入资源、获取人才与曝光、机会与背书的不同诉求。
文章认为,闲鱼汇集了显卡、模型 Token、Gemini 会员、云服务部署和 Agent 定制等交易,像一个覆盖多类 AI 与企业服务的民间市场。卖家提供的服务从算力和模型部署延伸到建站、广告投放、获客和供应链环节。受访者表示,闲鱼商品链接更多用于展示和导流,大额交易与后续合作通常转到其他渠道,文中也指出部分商品来源可能存在灰色地带。
崇礼论坛上,电力企业负责人预计“十五五”期间电力行业投资可能达到14万亿元,国家电网固定资产投资安排为4万亿元,并强调投资需注重质效、避免重复建设。文章指出,央企短期仍主导特高压设备和大型清洁能源基地,民企机会更多在虚拟电厂、需求侧聚合、垂直场景AI应用及碳资产服务,但数据获取、市场准入和机制落地仍是挑战。
华为正考虑逐步将鸿蒙OS推向全球市场,但尚未给出时间表;文章将这一计划视为华为终端业务转向软硬件平台模式的探索。文中称,运行鸿蒙6和鸿蒙7的设备已超过9000万台,应用和服务超过45万个,全球注册开发者达到1100万。作者还分析了应用生态、海外用户信任、渠道建设及新兴市场等出海挑战与切入点。
文章分析同程旅行2026年第二季度业绩及其向酒店管理业务延伸的进展:收入为49.87亿元,同比增长6.8%;交通票务收入下降,住宿预订及其他OTA服务接棒增长。
2026年10月,罗希特·普拉萨德出任波士顿动力CEO,公司下一阶段的重点是推动智能机器人产品化和规模商业化。文章回顾了Spot进入工业巡检、Stretch用于仓库卸货的过程,并梳理客户需求如何影响产品设计、服务交付与制造。Atlas则面临规模生产和拓展工厂任务的挑战,现代公布的部署与产能安排仍属计划。
施耐德电气宣布以每股205美元、总计约226亿美元全现金收购PTC,交易预计于2027年第三季度交割。文章认为,PTC补上了施耐德工业数字主线的研发设计与生命周期数据环节;中国制造业更需要从具体产线场景逐步落地的工业智能体,而非照搬单一厂商包揽全栈的模式。
RSI讨论升温,OpenAI、Anthropic、Google DeepMind及国内团队相继提及相关探索,但AI自我改进仍受人类设定目标、方向和评估决策的约束。Claude“主导”的AI研发任务占比从2月不到1%升至8月约26%,而组织层面的授权、问责与监督机制仍待探索。
文章梳理腾讯、阿里、字节和DeepSeek为AI扩张融资或筹资的安排,并指出这些资金将用于基础设施、数据中心和算力供给。阿里以配售融资800亿港元,字节签下296亿美元贷款,腾讯考虑发行最高50亿美元离岸债券,DeepSeek新一轮融资预计超过800亿元。文章认为,提前建设和锁定算力会带来持续投入,最终还款与折旧压力仍取决于企业客户订单能否覆盖成本。
机器人数据采集员通过反复演示叠衣服、洗碗、铺床单等日常动作,为机器人训练提供数据。采集方式包括VR头显遥操作、UMI手持夹爪和第一视角相机录制,收入按日、小时或绩效计算,受访者提到重复劳动、设备负担和数据审核等工作体验。