确切的探地雷达方法- MATLAB和Simulink M金宝appathWorks澳大利亚 - 金宝app,下载188bet金宝搏,金宝搏官方网站

确切的探地雷达法

$P (y_{我} | f (x_{我}), x_{我}) ~ N (y_{我} | h {(x_{我})}^{T} β + f (x_{我}), σ^{2})$

因此,从探地雷达模型预测新数据要求:

知识的系数向量, $β$ 固定的基函数
能力评估协方差函数 $k (x, x^{'} | θ)$ 对于任意的 $x$ 和 $x^{'}$ ,考虑到内核参数或hyperparameters, $θ$ 。
噪声方差的知识 $σ^{2}$ 出现的密度 $P (y_{我} | f (x_{我}), x_{我})$

也就是说,需要一个估计 $β$ , $θ$ , $σ^{2}$ 从数据 $(X, y)$ 。

参数估计

一种方法估计参数 $β$ , $θ$ , $σ^{2}$ 探地雷达的模型是通过最大化的可能性 $P (y | X)$ 的函数 $β$ , $θ$ , $σ^{2}$ [1]。也就是说,如果 $\hat{β}$ , $\hat{θ}$ , ${\hat{σ}}^{2}$ 的估计是 $β$ , $θ$ , $σ^{2}$ 分别,那么:

$\hat{β}, \hat{θ}, {\hat{σ}}^{2} = \underset{β, θ, σ^{2}}{arg马克斯} 日志 P (y | X, β, θ, σ^{2}) 。$

因为

$P (y | X) = P (y | X, β, θ, σ^{2}) = N (y | H β, K (X, X | θ) + σ^{2} 我_{n}),$

边际对数似然函数如下:

$\begin{array}{l} 日志 P (y | X, β, θ, σ^{2}) = & - \frac{1}{2} {(y - H β)}^{T} {(K (X, X | θ) + σ^{2} 我_{n}]}^{- 1} (y - H β) \\ - \frac{n}{2} 日志 2 π - \frac{1}{2} 日志 | K (X, X | θ) + σ^{2} 我_{n} | 。 \end{array}$

在哪里 $H$ 是显式的矢量基函数, $K (X, X | θ)$ 协方差函数矩阵(有关更多信息,请参见吗高斯过程回归模型)。

估计参数,首先计算的软件 $\hat{β} (θ, σ^{2})$ ,最大化对数似然函数有关 $β$ 对于给定 $θ$ 和 $σ^{2}$ 。然后使用这个估计计算 $β$ 异形的可能性:

$日志 {P (y | X, \hat{β} (θ, σ^{2}), θ, σ^{2})} 。$

的估计 $β$ 对于给定 $θ$ , $σ^{2}$ 是

$\hat{β} (θ, σ^{2}) = {(H^{T} {(K (X, X | θ) + σ^{2} 我_{n}]}^{- 1} H]}^{- 1} H^{T} {(K (X, X | θ) + σ^{2} 我_{n}]}^{- 1} y 。$

然后, $β$ 异形日志可能是由

$\begin{array}{l} 日志 P (y | X, \hat{β} (θ, σ^{2}), θ, σ^{2}) = & - \frac{1}{2} {(y - H \hat{β} (θ, σ^{2}))}^{T} {(K (X, X | θ) + σ^{2} 我_{n}]}^{- 1} (y - H \hat{β} (θ, σ^{2})) \\ - \frac{n}{2} 日志 2 π - \frac{1}{2} 日志 | K (X, X | θ) + σ^{2} 我_{n} | \end{array}$

然后最大化的软件 $β$ 异形对数似在 $θ$ , $σ^{2}$ 发现他们的估计。

预测

从探地雷达进行概率预测模型与已知的参数需要密度 $P (y_{n e w} | y, X, x_{n e w})$ 。使用条件概率的定义,一个可以写:

$P (y_{n e w} | y, X, x_{n e w}) = \frac{P (y_{n e w}, y | X, x_{n e w})}{P (y | X, x_{n e w})} 。$

找到联合密度在分子上,有必要引入潜在变量 $f_{n e w}$ 和 $f$ 对应于 $y_{n e w}$ , $y$ ,分别。然后,可以使用的联合分布 $y_{n e w}$ , $y$ , $f_{n e w}$ , $f$ 来计算 $P (y_{n e w}, y | X, x_{n e w})$ :

$\begin{array}{l} \begin{array}{l} P (y_{n e w}, y | X, x_{n e w}) & = \int \int P (y_{n e w}, y, f_{n e w}, f | X, x_{n e w}) d f d f_{n e w} \\ = \int \int P (y_{n e w}, y | f_{n e w}, f, X, x_{n e w}) P (f_{n e w}, f | X, x_{n e w}) d f d f_{n e w} 。 \end{array} \end{array}$

高斯过程模型假设每个响应 $y_{我}$ 只取决于相应的潜变量 $f_{我}$ 和特征向量 $x_{我}$ 。写作 $P (y_{n e w}, y | f_{n e w}, f, X, x_{n e w})$ 作为一个产品的条件密度和基于这样的假设:

$\begin{array}{l} P (y_{n e w}, y | f_{n e w}, f, X, x_{n e w}) = P (y_{n e w} | f_{n e w}, x_{n e w}) \prod_{我 = 1}^{n} P (y_{我} | f (x_{我}), x_{我}) \end{array} 。$

后整合有关 $y_{n e w}$ ,结果只取决于 $f$ 和 $X$ :

$\begin{array}{l} P (y | f, X) = \prod_{我 = 1}^{n} P (y_{我} | f_{我}, x_{我}) = \prod_{我 = 1}^{n} N (y_{我} {| h (x_{我})}^{T} β + f_{我}, σ^{2}) \end{array} 。$

因此,

$P (y_{n e w}, y | f_{n e w}, f, X, x_{n e w}) = P (y_{n e w} | f_{n e w}, x_{n e w}) P (y | f, X) 。$

再次使用条件概率的定义,

$P (f_{n e w}, f | X, x_{n e w}) = P (f_{n e w} | f, X, x_{n e w}) * P (f | X, x_{n e w}),$

可以写 $P (y_{n e w}, y | X, x_{n e w})$ 如下:

$P (y_{n e w}, y | X, x_{n e w}) = \int \int P (y_{n e w} | f_{n e w}, x_{n e w}) P (y | f, X) P (f_{n e w} | f, X, x_{n e w}) P (f | X, x_{n e w}) d f d f_{n e w} 。$

使用的事实

$P (f | X, x_{n e w}) = P (f | X)$

和

$P (y | f, X) P (f | X) = P (y, f | X) = P (f | y, X) P (y | X),$

可以重写 $P (y_{n e w}, y | X, x_{n e w})$ 如下:

$P (y_{n e w}, y | X, x_{n e w}) = P (y | X) \int \int P (y_{n e w} | f_{n e w}, x_{n e w}) P (f | y, X) P (f_{n e w} | f, X, x_{n e w}) d f d f_{n e w} 。$

还可以显示

$P (y | X, x_{n e w}) = P (y | X) 。$

因此,所需的密度 $P (y_{n e w} | y, X, x_{n e w})$ 是:

$\begin{array}{l} P (y_{n e w} | y, X, x_{n e w}) & = \frac{P (y_{n e w}, y | X, x_{n e w})}{P (y | X, x_{n e w})} = \frac{P (y_{n e w}, y | X, x_{n e w})}{P (y | X)} \\ = \int \int \underset{(1)}{\underset{︸}{P (y_{n e w} | f_{n e w}, x_{n e w})}} \underset{(2)}{\underset{︸}{P (f | y, X)}} \underset{(3)}{\underset{︸}{P (f_{n e w} | f, X, x_{n e w})}} d f d f_{n e w} 。 \end{array}$

它可以显示

$(1) P (y_{n e w} | f_{n e w}, x_{n e w}) = N (y_{n e w} | h {(x_{n e w})}^{T} β + f_{n e w}, σ_{n e w}^{2})$

$(2) P (f | y, X) = N (f | \frac{1}{σ^{2}} {(\frac{我_{n}}{σ^{2}} + K {(X, X)}^{- 1})}^{- 1} (y - H β), {(\frac{我_{n}}{σ^{2}} + K {(X, X)}^{- 1})}^{- 1})$

$\begin{array}{l} (3) \begin{array}{l} P (f_{n e w} | f, X, x_{n e w}) = N (f_{n e w} | K (x_{n e w}^{T}, X) K {(X, X)}^{- 1} f, Δ) \end{array}, \\ 在哪里 Δ = k (x_{n e w}, x_{n e w}) - K (x_{n e w}^{T}, X) K {(X, X)}^{- 1} K (X, x_{n e w}^{T}) 。 \end{array}$

所需的集成和代数后,密度的新反应 $y_{n e w}$ 在一个新的观点 $x_{n e w}$ ,鉴于 $y$ , $X$ 发现是

$P (y_{n e w} | y, X, x_{n e w}) = N (y_{n e w} | h {(x_{n e w})}^{T} β + μ, σ_{n e w}^{2} + Σ),$

在哪里

$μ = K (x_{n e w}^{T}, X) \underset{α}{\underset{︸}{{(K (X, X) + σ^{2} 我_{n})}^{- 1} (y - H β)}}$

和

$Σ = k (x_{n e w}, x_{n e w}) - K (x_{n e w}^{T}, X) {(K (X, X) + σ^{2} 我_{n})}^{- 1} K (X, x_{n e w}^{T}) 。$

预测的期望值 $y_{n e w}$ 在一个新的观点 $x_{n e w}$ 鉴于 $y$ , $X$ 和参数 $β$ , $θ$ , $σ^{2}$ 是

$\begin{array}{l} E (y_{n e w} | y, X, x_{n e w}, β, θ, σ^{2}) & = h {(x_{n e w})}^{T} β + K (x_{n e w}^{T}, X | θ) α \\ = h {(x_{n e w})}^{T} β + \sum_{我 = 1}^{n} α_{我} k (x_{n e w}, x_{我} | θ), \end{array}$

在哪里

$α = {(K (X, X | θ) + σ^{2} 我_{n})}^{- 1} (y - H β) 。$

计算复杂度的精确参数估计和预测

培训(当探地雷达模型准确的方法FitMethod是“准确”)需要的反演n——- - - - - -n内核矩阵 $K (X, X)$ 。这一步的内存要求尺度为O (n²)自 $K (X, X)$ 必须存储在内存中。一个评价 $日志 P (y | X)$ 尺度为O (n³)。因此,计算复杂度是O (kn³),k是函数的数量最大化和所需的评价n是观测的数量。

新数据做出预测涉及的计算 $\hat{α}$ 。如果想要预测区间,这一步也可以涉及的柯列斯基因素的计算和存储 $(K (X, X) + σ^{2} 我_{n})$ 以备后用。这一步的计算复杂度使用的直接计算 $\hat{α}$ 是O (n³)和内存需求是O (n²)。

因此,对于大n,参数估计或计算预测可能会非常昂贵。近似计算方法通常涉及重新安排,以避免的反演n——- - - - - -n矩阵。可用近似方法,请参见相关链接在页面的底部。

引用

Rasmussen [1], c, e和c k。威廉姆斯。高斯过程机器学习。麻省理工学院出版社。马萨诸塞州剑桥,2006年。

另请参阅

fitrgp|预测

确切的探地雷达法

参数估计

预测

计算复杂度的精确参数估计和预测

引用

另请参阅

相关的话题