扩散强制

Diffusion Forcing进阶

给序列里每个 token 加各自独立强度的噪声来训练的因果扩散序列模型。

扩散强制由 MIT 的 Boyuan Chen、Vincent Sitzmann、Russ Tedrake 等人于 2024 年提出，发表于 NeurIPS 2024。以往序列生成有两类：下一个 token 预测逐个生成，长度灵活，但长时间推演容易跑偏；全序列扩散一次去噪整段，能对整条轨迹做引导，但长度固定。扩散强制训练一个因果模型，让序列中每个 token 的噪声水平各自独立随机，推理时就既能像自回归那样一帧帧往后生成、超出训练长度，也能像扩散那样用引导把整条轨迹推向期望目标。它被用于长视频生成、规划和机器人控制，也是自回归视频生成和世界模型里常被沿用和对比的训练方式。