高斯过程

Gaussian ProcessGP进阶

直接在「函数」上建概率分布的方法，预测时同时给出不确定度。

高斯过程是一种随机过程：任取有限个输入点，对应的函数值都服从多元正态分布。它由均值函数和协方差函数完全决定，后者也叫核函数，描述两个输入点的函数值有多相关。用来做回归时，给定少量观测，就能算出任意新输入处的预测均值和方差，天然带不确定度。经典教材是 Rasmussen 和 Williams 2006 年的《Gaussian Processes for Machine Learning》。缺点是计算量随数据量 n 按 n³ 增长，数据多时要用稀疏近似。机器人里它多用在数据很少的场合：学动力学模型（如 Deisenroth 与 Rasmussen 2011 年的 PILCO，几次试验就能从零学会控制），或用贝叶斯优化调控制参数。