分数匹配

训练网络估计数据分布对数密度的梯度（分数），不必算归一化常数。

分数（score）指概率密度取对数后对输入的梯度 ∇x log p(x)，它指向「数据更可能出现」的方向。Hyvärinen 2005 年提出分数匹配：让模型的分数去拟合数据的分数，好处是绕开能量模型里难算的归一化常数。后来的去噪分数匹配把问题变成「给数据加噪，再学怎么去噪」。2019 年 Song 和 Ermon 用多级噪声下的分数估计加朗之万动力学采样做图像生成；2020 年 Song 等人用随机微分方程统一了分数模型与扩散模型，反向去噪过程只依赖各噪声水平下的分数。DDPM 预测噪声、流匹配预测速度，都可以换算成分数估计，所以扩散策略等生成式机器人策略的训练，背后就是分数匹配。

例子扩散策略训练时给专家动作加上不同强度的高斯噪声，让网络预测所加的噪声；把这个预测除以噪声标准差再取负号，就是对加噪动作分布的分数估计。

也叫

得分匹配、分数函数、Score Function、去噪分数匹配、Denoising Score Matching

相关

扩散模型、去噪扩散概率模型、去噪损失、流匹配、能量模型、预测目标参数化（ε / v / x₀ 预测）

来源

Hyvärinen 2005: Estimation of Non-Normalized Statistical Models by Score Matching (JMLR)
Song & Ermon 2019: Generative Modeling by Estimating Gradients of the Data Distribution
Song et al. 2020: Score-Based Generative Modeling through Stochastic Differential Equations