KnowNo（会求助的机器人）

KnowNo: Robots That Ask For Help (Uncertainty Alignment for LLM Planners)进阶

让大模型规划器在拿不准时主动问人，并用共形预测给成功率打统计保证。

KnowNo 是普林斯顿大学与 Google DeepMind 2023 年 7 月发布的工作，获 CoRL 2023 最佳学生论文。大语言模型做机器人任务规划时，遇到含糊指令常会自信地给出错误计划。KnowNo 把每一步规划变成选择题：先让模型列出几个候选动作，再用共形预测（一种只需少量标定数据、能给统计覆盖保证的方法）筛出候选集合，保证正确选项以用户设定的概率（如 80%）落在集合里。集合里只剩一个选项就直接执行，有多个就停下来问人。它无需微调模型，在移动操作、桌面重排、双臂操作上做了验证，能在保证成功率的同时尽量少求助。