Laplace Intelligence 在机器人和自动驾驶汽车进入真实世界前进行红队测试

如果说 OpenAI-Hugging Face 事件 给我们上了一课，那就是 AI 代理可能会变得难以预测。 

“想象一下，如果类似的事情发生在现实世界中，”Laplace Intelligence 首席执行官兼联合创始人 Howie Sun 对 TechCrunch 说。“AI 代理正从计算机走向现实世界，而我们确实不希望实体 AI 在现实世界中出现故障。”

总部位于 Ann Arbor 的 Laplace 正在为机器人和实体 AI 构建自动化红队测试——本质上是通过蓄意尝试让系统失败来对其进行压力测试。该公司押注于这样一种理念：确保实体 AI 安全的唯一方法，就是让 AI 对其进行测试。

Sun 说：“我们的目标是帮助企业在部署前发现并修复问题，并随着时间推移，建立一个客户、保险公司和监管机构都能信赖的共享证据基础。”

Laplace 是参加 Startup Battlefield 200 的 20 家初创公司之一。Startup Battlefield 200 是本周 10 月 13 日至 15 日在旧金山举行的 TechCrunch Disrupt 创业公司路演竞赛。该公司将于 10 月 13 日星期二下午在 Disrupt 舞台进行展示。

Sun 与联合创始人兼首席科学家 Henry Liu 于一年前从密歇根大学起步创办了 Laplace。在过去八年里，Sun 一直在学术界研究如何在模拟环境中挑战自动驾驶 AI。2023 年，他与 Liu——当时担任其博士导师——发表了一篇关于这一主题的论文，并登上了顶级科学期刊 Nature 的封面。就在那时，开始有自动驾驶汽车公司打来电话，希望实施他们的想法。 

Sun 说：“我意识到，我想把这项技术真正构建出来，并将其从纯粹的学术研究转变为现实世界中有用的产品。” 

Sun 和 Liu 以他们的学术研究为基础构建了 Laplace。该名称源自“拉普拉斯妖”——法国学者 Pierre-Simon Laplace 于 1814 年提出的一个思想实验。在这个思想实验中，他设想，如果你知道宇宙中一切事物的精确状态，就能以完全的精度预测未来。

Sun 说：“从本质上讲，我们正利用模拟来预测现实世界的未来。” 

该初创公司的核心是一个根据现实世界重建的高保真模拟，配合一个不断探测弱点和故障点的 AI 代理。其目标是确保任何实体 AI——无论是机器人、自动驾驶汽车还是智慧城市解决方案——在部署到现实世界之前，都能在模拟环境中确保安全。 

该模拟环境是 Nvidia Cosmos 的一个经过后训练的版本。Cosmos 是一个 AI 世界模拟平台，以现实世界为基础，使 Laplace 能够重建从亚利桑那州高速公路到巴黎人行横道的任何场景。模拟环境通过融合不同的现实世界信息网格生成。Google Street View 图像可以作为参考，据此生成整条街道。但模拟器并非随机生成内容，而是结合现实世界的地图数据，重新创建一个按真实比例还原的环境。 

随后，开发人员可以使用语言提示实时改变环境设置，例如添加下午时段的交通流量。Sun 表示，Laplace 会从 TomTom 等导航服务提供商处获取实时交通和拥堵信息。 

在 Laplace 的仿真中，不仅会模拟环境，还会模拟其他参与者的行为。例如，在一次演示中，Sun 指示测试车辆驶入对向车道。它本来会撞上的那辆车——或者像一些生成式世界模型常见的情况那样，直接穿过去——为了避免碰撞而驶离了原来的路线。 

“这确实是一个交互式仿真环境，”Sun 说。“每个人都在对所有事情作出反应……这更像是一个有交互式参与者的世界模型。”

虽然模拟环境是 Laplace 产品的重要组成部分，但真正独特的卖点是这家初创公司正在开发的 AI 智能体：它们能够自动设计极端案例（可能使 AI 系统出错的棘手、罕见场景），进一步减少人在其中的参与。 

“它们可以从新闻、碰撞事故的警方报告以及各种信息中进行设计，从而主动挑战自动驾驶汽车和其他物理 AI 智能体，”Sun 说。

如今，自动驾驶汽车开发商主要使用录制的影像来训练 AI 处理边缘案例，他们会将这些影像转化为仿真环境；或者依靠人类提出新想法并进行设计。尽管许多自动驾驶汽车公司已经采取了 Laplace 所推崇的做法，并开始拥抱 AI 来创建用于训练的边缘案例——自动驾驶卡车公司 Waabi 就是一个例子——但当我们开始把通用型机器人部署到现实世界中时，这类技术的需求才会真正显现。 

“关于通用型机器人，可用的数据更少，”Sun 说。“没人知道现实世界中会出现哪些边缘案例。”

尽管 Sun 和 Liu 来自学术界，没有光鲜的硅谷科技公司背景，但两人已经成功开始创造营收，甚至实现了小幅盈利。大部分收入来自自动驾驶应用场景，客户包括总部位于得克萨斯州的自动驾驶卡车公司 Bot Auto，以及一家日本大型汽车制造商。 

Laplace 还在与 Nvidia 和 T-Mobile 合作，为加利福尼亚州圣何塞提供免费的智慧城市试点项目，以支持高层级交通运营。Laplace 也已开始与一些正在为仓库打造人形机器人的合作伙伴开展初步合作。  

目前，Laplace 的大多数客户合同都是基于项目的，该公司正努力将其转变为经常性收入。这家初创公司的近期目标——它希望参加 Disrupt 竞赛能够助其实现这一目标——是筹集资金并扩大规模，以便与竞争对手展开竞争。

其主要竞争对手是 Applied Intuition，这家备受关注的后期初创公司迄今已筹集 12 亿美元，投后估值达到 150 亿美元。

Sun 并不太担心。他认为，利用 AI 测试 AI 的核心方法是“一种彻底改变物理 AI 测试的新范式”，将测试转变为“动态的交互式测试流程”。

“这将是最大的护城河，”他说。 

本文已更新，以明确 Laplace 与 Nvidia 的关系。

当您通过我们文章中的链接购买商品时，我们可能会获得一小笔佣金。这不会影响我们的编辑独立性。