策略服务器

把模型放在 GPU 服务器上跑，机器人把观测发过去、拿回动作。

策略服务器是一种部署方式：大模型策略（如 VLA）运行在带 GPU 的工作站或云端，机器人上的轻量客户端把相机图像、关节状态和指令通过网络发过去，服务器推理后返回一段动作，客户端再交给底层控制器执行。它解决的是机器人本体算力不够、装不下几十亿参数模型的问题，也方便多台机器人共用一套模型、换模型时不动机器人端代码。代价是网络延迟和抖动，所以常配合动作分块、异步推理，让机器人执行当前动作块的同时请求下一块。openpi 用 WebSocket 提供策略服务，LeRobot 也有基于 gRPC 的异步推理方案。

例子在 4090 工作站上启动 openpi 的 serve_policy 脚本加载 π0，机械臂上的客户端每次发送观测、收回一段动作。

也叫

远程推理、server-client 部署、推理服务器

相关

推理部署、异步推理、推理延迟、动作分块、openpi、云边端协同

来源

Physical-Intelligence/openpi - GitHub
LeRobot docs: Asynchronous Inference