GPR模型的回归器近似值- MATLAB & Simulink - MathWorks Australia - 金宝app,下载188bet金宝搏,金宝搏官方网站

GPR模型的回归器近似值

这subset of regressors (SR) approximation method consists of replacing the kernel function $K. （ X 那 X_{R.} | θ 的）$ 在the精确的GPR方法经过一世ts approximation ${\hat{K.}}_{S. R.} （ X 那 X_{R.} | θ 那一种的）$ ，给定活动集 $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 。您可以使用使用方法为参数估计指定SR方法'FitMethod','sr'呼叫中的名称值对参数Fitrgp.。对于使用SR预测，您可以使用'predictmethod'，'sr'呼叫中的名称值对参数Fitrgp.。

近似内核函数

为了精确的GPR模型，GPR中的预期预测取决于该组 $N.$ 职能 ${S.}_{N.} = {K. （ X 那 X_{一世} | θ 的）那一世 = 1 那 2 那 ...... 那 N.}$ ，在哪里 $N. = {1 那 2 那 ...... 那 N.}$ 是所有观察结果的一组索引N.是the total number of observations. The idea is to approximate the span of these functions by a smaller set of functions, ${S.}_{一种}$ ，在哪里 $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 是选择为活动集中的点指数的子集。考虑 ${S.}_{一种} = {K. （ X 那 X_{j} | θ 的）那 j \in 一种}$ 。目的是近似的元素 ${S.}_{N.}$ 作为线性组合的元素 ${S.}_{一种}$ 。

认为the approximation to $K. （ X 那 X_{R.} | θ 的）$ 使用功能 ${S.}_{一种}$ 如下：

$\hat{K.} （ X 那 X_{R.} | θ 的） = \underset{j \in 一种}{σ.} C_{j R.} K. （ X 那 X_{j} | θ 的）那$

在哪里 $C_{j R.} \in ℝ$ 是近似线性组合的系数 $K. （ X 那 X_{R.} | θ 的）$ 。认为 $C$ 是包含所有系数的矩阵 $C_{j R.}$ 。这N.那 $C$ ，是A. $| 一种 | \times N.$ 矩阵这样 $C （ j 那 R. 的） = C_{j R.}$ 。该软件发现对元素的最佳近似值 ${S.}_{N.}$ using the active set $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 通过最小化误差函数

$E. （一种那 C 的） = {σ.}_{R. = 1}^{N.} {‖ K. （ X 那 X_{R.} | θ 的） - \hat{K.} （ X 那 X_{R.} | θ 的） ‖}_{ℋ}^{2} 那$

在哪里 $ℋ$ 是与内核函数相关联的再现内核希尔伯特空格（RKHS）K.[1]那[2]。

最小化的系数矩阵 $E. （一种那 C 的）$ 是

${\hat{C}}_{一种} = K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X | θ 的）那$

使用活动集中的元素到内核函数的近似值 $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 是

$\hat{K.} （ X 那 X_{R.} | θ 的） = \underset{j \in 一种}{σ.} C_{j R.} K. （ X 那 X_{j} | θ 的） = K. （ X^{T.} 那 X_{一种} | θ 的） C （：那 R. 的）。$

这S.R.approximation to the kernel function using the active set $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 被定义为：

${\hat{K.}}_{S. R.} （ X 那 X_{R.} | θ 那一种的） = K. （ X^{T.} 那 X_{一种} | θ 的） {\hat{C}}_{一种} （：那 R. 的） = K. （ X^{T.} 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X_{R.}^{T.} | θ 的）$

和sr近似 $K. （ X 那 X | θ 的）$ 是：

${\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） = K. （ X 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X | θ 的）。$

P.arameter Estimation

更换 $K. （ X 那 X | θ 的）$ 经过 ${\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的）$ 在边缘日志中，似然函数产生其SR近似值：

$\begin{array}{l} 日志 {P.}_{S. R.} （ y | X 那 β 那 θ 那 σ^{2} 那一种的） = & - \frac{1}{2} {（ y - H β 的）}^{T.} {[{\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.}]}^{- 1} （ y - H β 的） \\ - \frac{N.}{2} 日志 2 π - \frac{1}{2} 日志 | {\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.} | \end{array}$

就像在那样确切的方法，软件通过第一计算估计参数 $\hat{β} （ θ 那 σ^{2} 的）$ ，最佳估计 $β$ 给定 $θ$ and $σ^{2}$ 。这N.一世t estimates $θ$ 那and $σ^{2}$ using the $β$ -profiled marginal log likelihood. The SR estimate to $β$ 给予 $θ$ 那and $σ^{2}$ 是：

${\hat{β}}_{S. R.} （ θ 那 σ^{2} 那一种的） = {[\underset{*}{\underset{}}{H^{T.} {[{\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.}]}^{- 1} H}}]}^{- 1} \underset{* *}{\underset{}}{H^{T.} {[{\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.}]}^{- 1} y}} 那$

在哪里

$\begin{array}{l} {[{\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.}]}^{- 1} = \frac{{一世}_{N.}}{σ^{2}} - \frac{K. （ X 那 X_{一种} | θ 的）}{σ^{2}} {一种}_{一种}^{- 1} \frac{K. （ X_{一种} 那 X | θ 的）}{σ^{2}} 那 \\ {一种}_{一种} = K. （ X_{一种} 那 X_{一种} | θ 的） + \frac{K. （ X_{一种} 那 X | θ 的） K. （ X 那 X_{一种} | θ 的）}{σ^{2}} 那 \\ * = \frac{H^{T.} H}{σ^{2}} - \frac{H^{T.} K. （ X 那 X_{一种} | θ 的）}{σ^{2}} {一种}_{一种}^{- 1} \frac{K. （ X_{一种} 那 X | θ 的） H}{σ^{2}} 那 \\ * * = \frac{H^{T.} y}{σ^{2}} - \frac{H^{T.} K. （ X 那 X_{一种} | θ 的）}{σ^{2}} {一种}_{一种}^{- 1} \frac{K. （ X_{一种} 那 X | θ 的） y}{σ^{2}} 。 \end{array}$

一种N.d the SR approximation to the $β$ - 纯粹的边缘日志可能是：

$\begin{array}{l} 日志 {P.}_{S. R.} （ y | X 那 {\hat{β}}_{S. R.} （ θ 那 σ^{2} 那一种的）那 θ 那 σ^{2} 那一种的） = \\ \begin{array}{l} - \frac{1}{2} {（ y - H {\hat{β}}_{S. R.} （ θ 那 σ^{2} 那一种的）的）}^{T.} {[{\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.}]}^{- 1} （ y - H {\hat{β}}_{S. R.} （ θ 那 σ^{2} 那一种的）的） \\ - \frac{N.}{2} 日志 2 π - \frac{1}{2} 日志 | {\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.} | 。 \end{array} \end{array}$

预言

SR近似到分布 $y_{N. E. W.}$ 给予 $y$ 那 $X$ 那 $X_{N. E. W.}$ 是

$P. （ y_{N. E. W.} | y 那 X 那 X_{N. E. W.} 的） = N. （ y_{N. E. W.} | H {（ X_{N. E. W.} 的）}^{T.} β + μ_{S. R.} 那 σ_{N. E. W.}^{2} + Σ_{S. R.} 的）那$

在哪里 $μ_{S. R.}$ and $Σ_{S. R.}$ 是sr近似值 $μ$ and $Σ$ 显示在使用精确的GPR方法预测。

$μ_{S. R.}$ and $Σ_{S. R.}$ 通过更换获得 $K. （ X 那 X_{R.} | θ 的）$ 经过一世ts SR approximation ${\hat{K.}}_{S. R.} （ X 那 X_{R.} | θ 那一种的）$ 在 $μ$ and $Σ$ ，分别。

那是，

$μ_{S. R.} = \underset{（ 1 的）}{\underset{}}{{\hat{K.}}_{S. R.} （ X_{N. E. W.}^{T.} 那 X | θ 那一种的）}} \underset{（ 2 的）}{\underset{}}{{（ {\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.} 的）}^{- 1}}} （ y - H β 的）。$

S.一世N.CE.

$\begin{array}{l} （ 1 的） = K. （ X_{N. E. W.}^{T.} 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X | θ 的） \end{array} 那$

$（ 2 的） = \frac{{一世}_{N.}}{σ^{2}} - \frac{K. （ X 那 X_{一种} | θ 的）}{σ^{2}} {[K. （ X_{一种} 那 X_{一种} | θ 的） + \frac{K. （ X_{一种} 那 X | θ 的） K. （ X 那 X_{一种} | θ 的）}{σ^{2}}]}^{- 1} \frac{K. （ X_{一种} 那 X | θ 的）}{σ^{2}} 那$

从这个事实中 ${一世}_{N.} - B. {（一种 + B. 的）}^{- 1} = 一种 {（一种 + B. 的）}^{- 1}$ 那 $μ_{S. R.}$ 可以写成

$\begin{array}{l} μ_{S. R.} & = K. （ X_{N. E. W.}^{T.} 那 X_{一种} | θ 的） {[K. （ X_{一种} 那 X_{一种} | θ 的） + \frac{K. （ X_{一种} 那 X | θ 的） K. （ X 那 X_{一种} | θ 的）}{σ^{2}}]}^{- 1} \frac{K. （ X_{一种} 那 X | θ 的）}{σ^{2}} （ y - H β 的） \end{array} 。$

S.一世milarly, $Σ_{S. R.}$ 是derived as follows:

$Σ_{S. R.} = \underset{*}{\underset{}}{{\hat{K.}}_{S. R.} （ X_{N. E. W.} 那 X_{N. E. W.} | θ 那一种的）}} - \underset{* *}{\underset{}}{{\hat{K.}}_{S. R.} （ X_{N. E. W.}^{T.} 那 X | θ 那一种的）}} \underset{* * *}{\underset{}}{{（ {\hat{K.}}_{S. R.} （ X 那 X | θ 那一种的） + σ^{2} {一世}_{N.} 的）}^{- 1}}} \underset{* * * *}{\underset{}}{{\hat{K.}}_{S. R.} （ X 那 X_{N. E. W.}^{T.} | θ 那一种的）}} 。$

因为

$* = K. （ X_{N. E. W.}^{T.} 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X_{N. E. W.}^{T.} | θ 的）那$

$\begin{array}{l} * * = K. （ X_{N. E. W.}^{T.} 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X | θ 的）那 \\ * * * = （ 2 的）在等式的 μ_{S. R.} 那 \end{array}$

$* * * * = K. （ X 那 X_{一种} | θ 的） K. {（ X_{一种} 那 X_{一种} | θ 的）}^{- 1} K. （ X_{一种} 那 X_{N. E. W.}^{T.} | θ 的）那$

$Σ_{S. R.}$ 是Found as follows:

${σ.}_{S. R.} = K. （ X_{N. E. W.}^{T.} 那 X_{一种} | θ 的） {[K. （ X_{一种} 那 X_{一种} | θ 的） + \frac{K. （ X_{一种} 那 X | θ 的） K. （ X 那 X_{一种} | θ 的）的）}{σ^{2}}]}^{- 1} K. （ X_{一种} 那 X_{N. E. W.}^{T.} | θ 的）。$

预测方差问题

One of the disadvantages of the SR method is that it can give unreasonably small predictive variances when making predictions in a region far away from the chosen active set $一种 \subset N. = {1 那 2 那 ...... 那 N.}$ 。考虑在新点进行预测 $X_{N. E. W.}$ that is far away from the training set $X$ 。换句话说，假设 $K. （ X_{N. E. W.}^{T.} 那 X | θ 的） \approx 0.$ 。

对于精确的GPR，后部分布 $F_{N. E. W.}$ 给予 $y$ 那 $X$ and $X_{N. E. W.}$ 与平均值是正常的 $μ = 0.$ and variance $Σ = K. （ X_{N. E. W.} 那 X_{N. E. W.} | θ 的）$ 。T.H一世s value is correct in the sense that, if $X_{N. E. W.}$ 远离 $X$ ，然后是数据 $（ X 那 y 的）$ 不提供有关的任何新信息 $F_{N. E. W.}$ 所以后部分布 $F_{N. E. W.}$ 给予 $y$ 那 $X$ 那and $X_{N. E. W.}$ 应该减少到先前的分销 $F_{N. E. W.}$ 给予 $X_{N. E. W.}$ ，这是一种正常分布，平均值 $0.$ and variance $K. （ X_{N. E. W.} 那 X_{N. E. W.} | θ 的）$ 。

对于SR近似，如果 $X_{N. E. W.}$ 是Far away from $X$ （因此也很远 $X_{一种}$ ），然后 $μ_{S. R.} = 0.$ and $Σ_{S. R.} = 0.$ 。因此在这个极端情况下， $μ_{S. R.}$ 同意 $μ$ 来自精确的GPR，但是 $Σ_{S. R.}$ 是unreasonably small compared to $Σ$ 从精确的GPR。