混合密度网络

神经网络不直接输出一个值，而是输出一个高斯混合分布的参数。

混合密度网络由 Christopher Bishop 在 1994 年的技术报告中提出。普通回归网络用均方误差训练，学到的是给定输入时输出的平均值；同一输入对应多个正确答案时，平均值往往哪个都不对。MDN 让网络输出若干个高斯分布的权重、均值和方差，拼成一个高斯混合模型，从而表示多峰的条件分布。Bishop 当时的演示之一就是机械臂逆运动学：同一个末端位置可对应多组关节角。机器人模仿学习中，它常作策略输出头来处理动作多峰性，如 robomimic 中的 GMM 策略；后来扩散策略等生成式动作头在很多任务上效果更好，但 MDN 训练和推理都便宜，仍常被拿来当基线。

例子绕开桌上的障碍物，演示里有人从左绕、有人从右绕。用均方误差训练的策略会把两类动作平均成「直直撞上去」；MDN 输出两个高斯分量，分别对应左绕和右绕，执行时从中选一个即可。

也叫

GMM 策略头、高斯混合输出头

相关

高斯混合模型、动作多峰性、高斯策略、连续动作回归、扩散策略、逆运动学

来源

Bishop, Mixture Density Networks (Aston University technical report, 1994)
What Matters in Learning from Offline Human Demonstrations for Robot Manipulation (robomimic, arXiv:2108.03298)