真机评测
Real-world Evaluation入门必知把策略部署到真实机器人上反复试跑,统计成功率等指标。
真机评测指在真实机器人和真实场景里运行策略,记录每次尝试是否成功、完成到哪一步、要不要人工干预。仿真再像也有虚实差距,所以它是检验具身模型的最终标准。难点是成本高、难复现:每次都要人摆放物体、复位场景、判定结果,灯光、摆放位置、机器人状态稍有不同分数就会变,不同实验室之间很难横向比较。因此论文要写清评测协议,包括任务、试验次数、初始条件和判定标准。为了更可信、更可扩展,出现了 RoboArena 这类分布式双盲成对比较,以及用仿真评测(如 SimplerEnv)或世界模型来预测真机表现的做法。
例子RoboArena 在 7 所高校的 DROID 机器人平台上,对 7 个通用策略做了 600 多次双盲成对真机对比,再汇总成排名。
- 也叫
- 实机测试、真机测试、真实世界评测
- 相关
- 仿真评测、评测协议、成功率、双盲成对比较、RoboArena、虚实差距
- 来源
- RoboArena: Distributed Real-World Evaluation of Generalist Robot Policies (arXiv 2506.18123)
Evaluating Real-World Robot Manipulation Policies in Simulation (SIMPLER, arXiv 2405.05941) - 信息截至
- 2025-06