云边端协同
Cloud-Edge-Device Collaboration进阶把机器人的计算分到云、边缘和机身三层,各担一部分。
一套把算力分层部署的做法:云端做训练和需要大显存的大模型推理,边缘服务器(放在厂区或楼里的本地机器)做低延迟的视觉与规划,机器人本体的主控只跑必须实时的控制环。这么分是因为具身大模型的算力需求和机身的功耗、散热、成本互相矛盾:全放机身跑不动,全放云端一旦网络抖动就失控。常见形态是策略服务器远程推理加本体端保底的运动控制,和端侧部署、推理延迟、异步推理这些词直接相关。
例子π0 的开源实现 openpi 提供策略服务器与客户端:策略在带 GPU 的机器上推理,机器人端只发观测、收动作。
- 也叫
- 云端协同
- 相关
- 端侧部署、策略服务器、推理延迟、异步推理、端侧模型、主控
- 来源
- Edge computing - Wikipedia
openpi (Physical Intelligence) - GitHub