高斯混合模型
Gaussian Mixture ModelGMM进阶用几个高斯分布加权叠加来描述数据的概率模型,可以有多个峰。
高斯混合模型假设数据来自 K 个高斯分布(正态分布)中的某一个,每个分量有自己的均值、方差(协方差)和权重,权重加起来等于 1。参数通常用期望最大化(EM)算法迭代估计:先算每个点属于各分量的概率,再按这些概率更新参数。它是经典的聚类和密度估计工具。机器人学习里有两种常见用法:一是传统示教学习用 GMM 配合高斯混合回归(GMR)从少量示教中编码轨迹;二是当策略的动作头,网络直接输出几组均值、方差和权重(即混合密度网络),表示同一画面下有几种合理动作。robomimic 的 BC-RNN-GMM 就是这种做法,也是扩散策略论文的主要对比基线之一。分量数要事先设定,高维动作下表达力有限。
例子绕开桌上的障碍物时,从左绕和从右绕都对。单个高斯的策略会把两者平均成直直撞上去;GMM 策略可以给左、右各分配一个分量,采样时选中其中一个。
- 也叫
- 混合高斯模型、GMM 策略、GMM 动作头
- 相关
- 混合密度网络、动作多峰性、高斯策略、高斯混合回归 / 任务参数化 GMM、RoboMimic、扩散策略
- 来源
- Mixture model - Wikipedia
robomimic documentation: Algorithms (BC_GMM / BC_RNN_GMM)
Diffusion Policy: Visuomotor Policy Learning via Action Diffusion (arXiv 2303.04137)