高斯进程回归(GPR)模型是基于非参数内核的概率模型。您可以使用培训GPR模型GyD.F4y2Bafitrgp.GyD.F4y2Ba
功能。GyD.F4y2Ba
考虑培训集GyD.F4y2Ba , 在哪里GyD.F4y2Ba 和GyD.F4y2Ba ,从一个未知的分发中得出。GPR模型解决了预测响应变量的值的问题GyD.F4y2Ba 给定新的输入矢量GyD.F4y2Ba 和培训数据。线性回归模型是表单GyD.F4y2Ba
在哪里GyD.F4y2Ba 。错误方差GyD.F4y2Baσ.GyD.F4y2Ba2GyD.F4y2Ba和系数GyD.F4y2BaβGyD.F4y2Ba估计数据。GPR模型通过引入潜在变量来解释响应,GyD.F4y2Ba ,来自高斯过程(GP)和明确的基本函数,GyD.F4y2BaHGyD.F4y2Ba。潜在变量的协方差函数捕获响应的平滑度和基础函数项目投影输入GyD.F4y2Ba 进入A.GyD.F4y2BaP.GyD.F4y2Ba- 专题空间。GyD.F4y2Ba
GP是一组随机变量,使得它们的任何有限数量都具有联合高斯分布。如果GyD.F4y2Ba 是一个gp,然后给出GyD.F4y2BaNGyD.F4y2Ba观察GyD.F4y2Ba ,随机变量的关节分布GyD.F4y2Ba 是高斯。GP由其平均功能定义GyD.F4y2Ba 和协方差函数,GyD.F4y2Ba 。那是,如果GyD.F4y2Ba 那是一个高斯过程,然后GyD.F4y2Ba 和GyD.F4y2Ba
现在考虑以下模型。GyD.F4y2Ba
在哪里GyD.F4y2Ba , 那是GyD.F4y2BaFGyD.F4y2Ba(GyD.F4y2BaXGyD.F4y2Ba)来自具有协方差功能的零平均GP,GyD.F4y2Ba 。GyD.F4y2BaHGyD.F4y2Ba(GyD.F4y2BaXGyD.F4y2Ba)是转换原始特征向量的一组基本函数GyD.F4y2BaXGyD.F4y2Ba在R.GyD.F4y2BaD.GyD.F4y2Ba进入一个新的特征向量GyD.F4y2BaHGyD.F4y2Ba(GyD.F4y2BaXGyD.F4y2Ba)在R.GyD.F4y2BaP.GyD.F4y2Ba。GyD.F4y2BaβGyD.F4y2Ba是A.GyD.F4y2BaP.GyD.F4y2Ba- 1个基础函数系数矢量。该模型代表了GPR模型。响应的一个例子GyD.F4y2BayGyD.F4y2Ba可以建模为GyD.F4y2Ba
因此,GPR模型是概率模型。有一个潜在的变量GyD.F4y2BaFGyD.F4y2Ba(GyD.F4y2BaXGyD.F4y2Ba一世GyD.F4y2Ba)为每个观察引入GyD.F4y2Ba ,这使得GPR模型非参数。在矢量形式中,该模型相当于GyD.F4y2Ba
在哪里GyD.F4y2Ba
潜在变量的联合分布GyD.F4y2Ba 在GPR模型中如下:GyD.F4y2Ba
接近线性回归模型,在哪里GyD.F4y2Ba 看起来如下:GyD.F4y2Ba
协方差函数GyD.F4y2Ba 通常由一组内核参数或QuandParameter参数化,GyD.F4y2Ba 。经常GyD.F4y2Ba 是写作的GyD.F4y2Ba 明确表示依赖GyD.F4y2Ba 。GyD.F4y2Ba
fitrgp.GyD.F4y2Ba
估计基础函数系数,GyD.F4y2Ba
,噪声方差,GyD.F4y2Ba
,和普遍的参数,GyD.F4y2Ba
,在培训GPR模型时从数据的内核功能的函数。您可以指定基础函数,内核(协议)函数和参数的初始值。GyD.F4y2Ba
因为GPR模型是概率,所以可以使用训练的模型来计算预测间隔(参见GyD.F4y2Ba预测GyD.F4y2Ba
和GyD.F4y2Ba重新预订GyD.F4y2Ba
)。GyD.F4y2Ba
您还可以使用培训的GPR模型计算回归错误(请参阅GyD.F4y2Ba失利GyD.F4y2Ba
和GyD.F4y2Baresubloss.GyD.F4y2Ba
)。GyD.F4y2Ba
该示例适合GPR模型到无噪声数据集和嘈杂的数据集。该示例比较了两个适合GPR模型的预测响应和预测间隔。GyD.F4y2Ba
从函数生成两个观察数据集GyD.F4y2Ba 。GyD.F4y2Ba
RNG(GyD.F4y2Ba'默认'GyD.F4y2Ba)GyD.F4y2Ba重复性的%GyD.F4y2Bax_observed = linspace(0,10,21)';y_observed1 = x_observed。* sin(x_observed);y_observed2 = y_observed1 + 0.5 * randn(大小(x_observed));GyD.F4y2Ba
价值GyD.F4y2Bay_observed1.GyD.F4y2Ba
是无噪音的,而且值GyD.F4y2BaY_OBSERVED2.GyD.F4y2Ba
包括一些随机噪声。GyD.F4y2Ba
将GPR模型适合观察到的数据集。GyD.F4y2Ba
gprmdl1 = fitrgp(x_observed,y_observed1);gprmdl2 = fitrgp(x_observed,y_observed2);GyD.F4y2Ba
使用拟合模型计算预测的响应和95%的预测间隔。GyD.F4y2Ba
x = linspace(0,10)';[ypred1,〜,yint1] =预测(gprmdl1,x);[ypred2,〜,yint2] =预测(gprmdl2,x);GyD.F4y2Ba
调整一个数字,以在一个数字中显示两个绘图。GyD.F4y2Ba
图=图;图GyD.F4y2Ba
创建一个1×2瓷砖图表布局。GyD.F4y2Ba
Tiledlayout(1,2,GyD.F4y2Ba'tileespacing'GyD.F4y2Ba那GyD.F4y2Ba'袖珍的'GyD.F4y2Ba)GyD.F4y2Ba
对于每个瓦片,绘制观察到的数据点的散点图和函数图GyD.F4y2Ba 。然后添加一个GP预测响应和预测间隔的曲线图。GyD.F4y2Ba
nextdtile hold.GyD.F4y2Ba在GyD.F4y2Ba散射(X_observed,Y_observed1,GyD.F4y2Ba'r'GyD.F4y2Ba)GyD.F4y2Ba%观察到的数据点GyD.F4y2Bafplot(@(x)x。* sin(x),[0,10],GyD.F4y2Ba'--r'GyD.F4y2Ba)GyD.F4y2Bax * sin(x)的%函数图GyD.F4y2Baplot(x,ypred1,GyD.F4y2Ba'G'GyD.F4y2Ba)GyD.F4y2Ba%GPR预测GyD.F4y2Ba补丁([x; flipud(x)],[yint1(:,1); flipud(yint1(:,2))],GyD.F4y2Ba'K'GyD.F4y2Ba那GyD.F4y2Ba'Facealpha'GyD.F4y2Ba,0.1);GyD.F4y2Ba%预测间隔GyD.F4y2Ba抓住GyD.F4y2Ba离开GyD.F4y2Ba标题(GyD.F4y2Ba“无噪音观测的GPR适合”GyD.F4y2Ba) 传奇({GyD.F4y2Ba'无噪音观察'GyD.F4y2Ba那GyD.F4y2Ba'g(x)= x * sin(x)'GyD.F4y2Ba那GyD.F4y2Ba'GPR预测'GyD.F4y2Ba那GyD.F4y2Ba'95%预测间隔'GyD.F4y2Ba},GyD.F4y2Ba'地点'GyD.F4y2Ba那GyD.F4y2Ba'最好'GyD.F4y2Ba)NextTile Hold.GyD.F4y2Ba在GyD.F4y2Ba散射(X_Observed,Y_observed2,GyD.F4y2Ba'xr'GyD.F4y2Ba)GyD.F4y2Ba%观察到的数据点GyD.F4y2Bafplot(@(x)x。* sin(x),[0,10],GyD.F4y2Ba'--r'GyD.F4y2Ba)GyD.F4y2Bax * sin(x)的%函数图GyD.F4y2Baplot(x,ypred2,GyD.F4y2Ba'G'GyD.F4y2Ba)GyD.F4y2Ba%GPR预测GyD.F4y2Ba补丁([x; flipud(x)],[yint2(:,1); flipud(yint2(:,2))],GyD.F4y2Ba'K'GyD.F4y2Ba那GyD.F4y2Ba'Facealpha'GyD.F4y2Ba,0.1);GyD.F4y2Ba%预测间隔GyD.F4y2Ba抓住GyD.F4y2Ba离开GyD.F4y2Ba标题(GyD.F4y2Ba'GPR对嘈杂的观察'GyD.F4y2Ba) 传奇({GyD.F4y2Ba'嘈杂的观察'GyD.F4y2Ba那GyD.F4y2Ba'g(x)= x * sin(x)'GyD.F4y2Ba那GyD.F4y2Ba'GPR预测'GyD.F4y2Ba那GyD.F4y2Ba'95%预测间隔'GyD.F4y2Ba},GyD.F4y2Ba'地点'GyD.F4y2Ba那GyD.F4y2Ba'最好'GyD.F4y2Ba)GyD.F4y2Ba
当观察是无噪声时,GPR的预测响应拟合过观察。预测响应的标准偏差几乎为零。因此,预测间隔非常窄。当观察结果包括噪声时,预测的响应不会跨越观察,并且预测间隔变宽。GyD.F4y2Ba
[1] Rasmussen,C. E.和C.K. I.威廉姆斯。GyD.F4y2Ba高斯机器学习工艺。GyD.F4y2Ba麻省理工学院。剑桥,马萨诸塞州,2006年。GyD.F4y2Ba
fitrgp.GyD.F4y2Ba
|GyD.F4y2Ba预测GyD.F4y2Ba
|GyD.F4y2Baregressiongp.GyD.F4y2Ba