扩散模型

先学会一步步去掉噪声，再从纯噪声出发逐步生成数据的生成模型。

扩散模型包含两个过程：前向过程不断往真实数据里加高斯噪声，直到变成纯噪声；反向过程训练神经网络预测并去掉每一步的噪声。生成时从随机噪声出发反复去噪，得到新样本。这一思路 2015 年由 Sohl-Dickstein 等人提出，2020 年 Ho 等人的 DDPM 让它真正好用，之后成为 Stable Diffusion 等图像、视频生成模型的主流方法。机器人领域用它生成动作：2023 年的扩散策略以当前观测为条件，把一段未来动作去噪生成出来，能表达同一场景下几种都合理的做法（动作多峰性），这是回归一个平均值做不到的。代价是要多步去噪，推理偏慢。

例子扩散策略（Chi 等，2023）在 4 个基准的 12 个操作任务上，平均成功率比此前方法高 46.9%；在推 T 形块任务中，面对从左绕和从右绕两种都合理的推法，它能学会这两种模式，而不是取平均。

也叫

扩散、Diffusion、去噪扩散模型

相关

扩散策略、去噪扩散概率模型、流匹配、动作多峰性、去噪步数、生成模型

来源

Denoising Diffusion Probabilistic Models (arXiv 2006.11239)
Diffusion Policy: Visuomotor Policy Learning via Action Diffusion (arXiv 2303.04137)
Diffusion model - Wikipedia