分布外
Out-of-distributionOOD入门必知测试时遇到的数据和训练数据分布不同,比如新物体、新场景。
机器学习通常默认训练数据和测试数据来自同一分布(独立同分布假设)。分布外指测试输入落在训练分布之外,比如换了没见过的物体、光照、桌布、相机角度或指令说法;落在训练分布之内的叫分布内(ID)。模型在分布外输入上性能往往明显下降,研究如何让模型此时仍然可用就是 OOD 泛化,清华大学崔鹏团队 2021 年的综述对此做了系统梳理。机器人尤其容易遇到这个问题:真实环境变化无穷,演示数据只覆盖有限场景;执行中一步走偏,后续观测也会偏离训练数据(分布偏移)。论文评测「泛化」时,通常就是在刻意构造的分布外条件下测成功率。
例子策略只在白色桌面上用红杯子训练过,测试时换成木纹桌面和蓝色碗,这就是一次分布外测试。
- 也叫
- 分布外泛化、OOD 泛化、Out-of-Distribution Generalization
- 相关
- 分布内、泛化、分布偏移(协变量偏移)、长尾问题、鲁棒性、零样本
- 来源
- Towards Out-Of-Distribution Generalization: A Survey (arXiv:2108.13624)