机器人安全初创公司 Safeworld 完成超1200万美元种子轮融资，拟开发面向在人员周围部署机器人、使用生成式AI控制软件的安全测试与评估平台。公司以仿真场景与真实控制软件结合的大规模重复测试寻找失效模式，但其商业模式、评估结果与现实验证仍在探索中。
2026年10月5日，机器人安全初创公司 Safeworld 宣布结束隐身状态，并完成一轮超过1200万美元的种子轮融资。TechCrunch 报道称，本轮融资由 Shine Capital 和 a16z Speedrun 领投，BoxGroup、卡内基梅隆大学捐赠基金、Innovation Endeavors 和 SV Angel 等机构参与。
Safeworld由卡内基梅隆大学 Safe AI 实验室负责人 Ding Zhao、创业者 Kyle Wong 和机器学习工程师 Simo Rachidi 共同创办。公司的目标不是制造新的机器人，而是为那些把生成式人工智能用于机器人控制系统的企业，提供面向真实人机协作场景的安全测试和评估工具。
公司官网将自身定位为“面向在人员周围部署机器人的企业的安全测试和评估平台”。目前公开信息显示，这项业务仍处于早期开发阶段，融资金额的准确数值、平台的商业化模式以及评估结果如何与现实事故率建立对应关系，都尚未完全披露。
生成式人工智能让机器人控制更难验证
过去的工业机器人通常依赖较为明确的规则、轨迹和控制逻辑。随着视觉语言动作模型以及其他生成式AI系统被用于机器人感知、规划和控制，机器人可能获得更强的环境适应能力，但其具体行为也更难用传统方法完全预测。
Ding Zhao在接受TechCrunch采访时表示，Safeworld面对的安全问题包括两个部分：一是如何评估概率性AI系统的风险，二是如何建立部署方和公众对这些系统的信任。他认为，机器人要真正进入工厂、建筑工地乃至家庭，仅有模型演示效果并不足够，还需要能够说明系统在异常情况下会如何反应。
这类风险往往不出现在机器人单独运行的演示环境中，而是在机器人与普通人共同工作的复杂场景里暴露出来。TechCrunch援引Safeworld联合创始人Kyle Wong的话说，工厂中的盲角就是一个典型例子：如果有人抱着箱子走来，机器人能否及时识别对方？它应该以多快的速度行驶？需要多长的停止距离，才能避免碰撞？
在模拟环境中重复测试“罕见但关键”的情况
Safeworld计划使用 Genesis 或 MuJoCo 等机器人模拟环境，构建包含人类行为的数字场景，再将接受测试的机器人控制软件接入其中。平台随后可以运行大量测试，让模拟人类与机器人在不同条件下相遇，以寻找潜在的失效模式。
这类测试重点关注的不是机器人在理想条件下能否完成任务，而是它在边界情况下是否仍能保持可接受的行为。例如，测试可以覆盖盲角相遇、人员跌倒、人员蹲下或奔跑，以及不同身高、体型、衣着和姿态的人与机器人共同工作的情况。类似的系统性取舍也出现在物理AI的计算架构中；微软研究院对机器人推理卸载的测量显示，延迟、带宽和资源共享同样会改变部署后的表现，相关背景可参见微软研究院关于物理AI推理卸载的研究。
MuJoCo官方将其描述为用于机器人、仿生学、图形和动画研究的开源物理引擎。Safeworld的做法则是在这类模拟基础上加入更贴近实际工作环境的人类行为和风险场景，并让被测机器人运行真实的软件，而不是只测试一个抽象控制器。公司希望通过大量重复实验，降低直接在真实工地或工厂中寻找危险情况的成本。
不过，模拟测试并不自动等同于现实世界的安全证明。模拟器对人的行为、环境变化和传感器误差的建模是否足够准确，决定了测试结果能否迁移到真实部署中。Safeworld目前公开的信息也没有说明其模拟结果是否已经经过大规模现实环境验证，因此更准确的表述是：公司正在开发一种安全评估方案，而不是已经建立了适用于所有机器人的通用安全标准。
Gritt Robotics成为早期合作方
Safeworld表示，Gritt Robotics已经在开发过程中与其合作。Gritt的机器人目前用于工业规模太阳能农场，帮助工人搬运和安装光伏板，公司希望进一步将机器人用于更复杂的建筑任务。
Gritt Robotics首席技术官Vishal Dugar告诉TechCrunch，机器人在真实工地上与人一起工作时，需要考虑人的外观、姿态和运动方式的变化：人可能站立、跪下、蹲伏、奔跑，也可能绊倒；不同的衣着、身高、体型和肤色同样会影响视觉系统的识别。
Dugar认为，对这类系统进行安全验证，很难只靠数学证明完成，必须通过经验性测试检验机器人在不同场景中的实际表现。这也解释了为什么Safeworld试图把仿真、真实控制软件和大规模场景生成结合起来。
第三方评估能否成为机器人产业的基础设施
机器人制造商通常会在内部建立测试流程，但Safeworld认为，随着不同企业把生成式AI部署到物理设备中，外部第三方评估可能具有额外价值。一方面，外部机构可以提供相对独立的测试结果；另一方面，行业也可能需要在不披露商业机密的前提下，共享不同机器人系统面对安全边界情况时的经验。
a16z Speedrun在Safeworld的公司介绍中，将其描述为一个面向人员周围机器人运行的评估平台，目标是生成罕见但关键的场景、发现失效模式并量化风险。该页面显示，Safeworld属于Speedrun第六期项目，团队由卡内基梅隆大学教授、机器人安全研究人员和具有创业经验的成员组成。
但公司目前仍在探索产品究竟应以软件平台还是服务模式为主。它需要回答的商业问题包括：机器人公司是否愿意持续为第三方测试付费；模拟环境中的风险指标能否成为采购或部署决策的一部分；以及不同机器人、工厂和家庭环境之间，是否能够建立可比较的评估结果。
这场竞争的背景，是机器人行业正在从展示原型转向扩大真实部署。机器人一旦进入由普通员工操作的工厂、建筑工地或家庭，安全问题就不再只是某个模型的实验室指标，而会涉及空间布局、人员培训、运行规则、硬件限制和持续监控等多个环节。Safeworld的融资说明投资者正在押注这一层基础设施的需求，但它最终能否让企业和公众相信生成式AI机器人足够安全，仍需要更多现实世界测试和透明的验证证据。类似的标准化问题也开始进入政策讨论，例如中国国家数据局推动具身智能数据标准建设的表态，反映出具身智能从实验室走向真实环境时，数据、测试和责任边界都需要更明确的制度安排。
来源：
- TechCrunch：Can Safeworld convince people that gen AI robots won’t hurt them?
- Safeworld官方网站
- a16z Speedrun：SafeWorld
- 卡内基梅隆大学 Safe AI 实验室
- MuJoCo：Advanced Physics Simulation
Safeworld的相关融资、创始团队和产品方向主要由TechCrunch报道披露；截至目前，公开资料并未表明该平台已获得监管认证，也未证明所有采用生成式AI控制的机器人能够在现实环境中安全运行。