分布偏移（协变量偏移）

部署时遇到的数据分布和训练数据不一致，导致模型表现变差。

分布偏移泛指训练数据和实际使用数据的分布不同。协变量偏移是其中一种：输入的分布变了，但输入到正确输出的对应关系没变；另外两种常见的是标签偏移和概念偏移。在机器人模仿学习中它格外突出：策略只在专家走过的状态上学过，执行时一旦出一点小错，就会进入示范里没见过的状态，错误再引发更大偏离，这就是复合误差。Ross 等人在 AISTATS 2011 指出，这种自己的动作决定下一步输入的设定违背了独立同分布假设，并提出 DAgger：让策略自己去跑，请专家给新遇到的状态标注正确动作，逐步让训练分布贴近策略实际遇到的分布。

例子行为克隆训练的抓杯策略在示范里总是从正上方接近杯子；部署时手臂偏了 2 厘米，这个位置训练集里没有，策略给出的动作越来越离谱，最后把杯子碰倒。

也叫

数据分布偏移、协变量漂移、Dataset Shift

相关

复合误差、DAgger（数据集聚合）、行为克隆、分布外、纠偏数据、领域自适应

来源

A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning (arXiv 1011.0686)
Domain adaptation - Wikipedia