曝光偏差（自回归误差累积）

训练时看真值、推理时看自己的输出，导致误差一步步累积的问题。

曝光偏差是序列生成模型的经典问题。自回归模型（逐步预测下一个元素的模型）训练时通常用教师强制，每一步都喂真实的历史；推理时却只能拿自己上一步的输出当输入。模型训练中没见过自己犯的错，一旦偏离训练分布，误差就越滚越大。2015–2016 年 Bengio 等人的计划采样（训练中逐步改用模型自己的预测当输入）和 Ranzato 等人的序列级训练是早期的代表性解法。具身智能里它有两种常见形态：行为克隆策略偏离演示轨迹后越走越偏（常称复合误差、协变量偏移）；自回归视频世界模型连续生成几十帧后画面崩坏，Self Forcing 等方法让模型在训练时就接着自己生成的帧往下生成来缓解。

例子给视频世界模型一帧当前画面，让它自回归地预测后面 100 帧。训练时每一步都看真实的上一帧，推理时看的是自己生成的、略带瑕疵的帧，越往后物体越容易变形、画面越容易糊掉。

也叫

暴露偏差、自回归误差累积、训练-推理不一致

相关

教师强制、自回归解码、复合误差、分布偏移（协变量偏移）、自强制、扩散强制

来源

Sequence Level Training with Recurrent Neural Networks (Ranzato et al., ICLR 2016)
Scheduled Sampling for Sequence Prediction with Recurrent Neural Networks (Bengio et al., 2015)
Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion (arXiv 2506.08009)