本报讯 (记者贾丽)近日,上海大晓无限机器人有限公司(以下简称“大晓机器人”)联合南洋理工大学S-Lab实验室发布面向具体环境构建、可探索、可交互的世界模型——Mundo(“世界”)。该模型支持场景重建、自由视角探索和时空模拟,并能将物体的质量、摩擦等物理属性纳入场景程序,通过物理引擎计算运动、接触与碰撞。Mundo将三维场景表示、物理仿真与视频生成相结合,可将少量影像转化为可自由探索、可编程交互、可用于机器人导航与操作训练的三维世界,为机器人进入具体商业场景提供环境建模、训练数据生成与仿真训练支持。
支持跨空间长路径生成
据了解,Mundo能将少量图片或视频拓展为可持续探索的三维空间。同一组参考图像可支持多条相机路径;面对更大场景,还可动态选择上下文,连续生成数十秒至分钟级的探索画面。具体而言,Mundo从真实场所的上下文影像出发,先建立三维代理,确定不同视图之间的空间关系,再沿指定相机路径生成新视角。输入1至12张图像,即可围绕房间中的家具和空间结构展开探索。
建模过程中,三维检测器为主要物体提供初始位置与范围,视觉语言模型智能体进一步调整代理场景,通过渲染、比较和修正,让场景结构与输入影像相互对应。
例如,在一间办公室中,视角可以从桌面旁绕到窗边;在一处住宅中,视角可以从庭院进入室内。相机移动时,输入图像约束已拍到的布局、外观和细节,模型对未拍到的区域进行推断补全;增加参考视图,就能为场景提供更多真实依据,减少补全的不确定性。这种能力也能从一张生成图像或画作开始,将其结构和视觉风格延伸到新视角。
面对更大环境,Mundo使用数十张上下文图像,支持数十秒至分钟级的长路径生成,沿同一个三维代理分段生成画面,为每一段选择相关参考视图,并通过重叠帧衔接前后片段,使局部外观和全局空间具有共同依据。对于机器人场景适配,这意味着现场影像能够成为构建任务环境的入口,为后续导航和交互训练提供空间基础。
推拉碰撞都有可计算的响应
要让机器人在场景中练习,环境必须能够响应动作。Mundo可以通过代码编辑世界,通过场景程序描述物体的名称、尺寸和位姿,并为其配置质量、摩擦等物理属性;脚本定义动作和施加的力,物理引擎计算物体在重力与接触约束下的响应,得到运动轨迹、接触位置和碰撞力,再结合环境参考图像将变化渲染到对应场景中。这一模型可对推拉、碰撞等交互作出可计算的响应。
在同一个定制场景中,Mundo进一步支持机器人移动和操作,将环境重建与机器人测试、训练相衔接。导航方面,三维代理提供物体类别、位置、障碍物和可通行区域等信息,路径规划器据此寻找路线,Mundo可生成不同机器人沿路线行进的第一人称和第三人称画面。操作方面,Mundo为参与交互的物体构建几何表示并配置物理属性,让不同形态的机器人尝试同一任务,例如将苹果放入碗中、将罐子放上托盘或堆叠积木。系统生成外部视角以及机器人头部、腕部相机视角的画面,同时保留任务轨迹与物理交互状态。
从导航到操作,再到四维时空观察,Mundo为机器人提供了可反复演练、可多角度检查的环境。在酒店应用中,团队已利用它重建楼层与洗衣区域,为导航提供空间和语义信息,并模拟洗衣机开门等交互,为机器人理解任务与开展训练提供支持。
在大晓机器人以Kairos(“开悟”世界模型)为核心的世界模型技术体系中,Mundo补充了具体环境建模与仿真训练能力,连接现场采集、数据生成和策略优化,服务于机器人进入实际工作场景。
(编辑 王浩)