主要内容

确定马尔可夫链的渐近行为

这个例子展示了如何计算马尔可夫链的平稳分布,估计其混合时间,并确定链是否遍历和可约。这个例子还展示了如何在不影响渐近行为的情况下从链中去除周期性。

考虑这种随机过程的理论,右转移转换矩阵。

P 0 0 1 / 2 1 / 4 1 / 4 0 0 0 0 1 / 3. 0 2 / 3. 0 0 0 0 0 0 0 1 / 3. 2 / 3. 0 0 0 0 0 1 / 2 1 / 2 0 0 0 0 0 3. / 4 1 / 4 1 / 2 1 / 2 0 0 0 0 0 1 / 4 3. / 4 0 0 0 0 0

建立以转移矩阵为特征的马尔可夫链P.绘制链条的数字,通过使用边缘颜色来指示过渡概率。

P = [0 0 1/4 1/4 0 0;0 0 1/3 0 2/3 0 0;0 0 0 0 1/3 2/3;0 0 0 0 1/2 /2;0 0 0 3/4 1/4;1/2 0 0 0 0 0 0;1/4 3/4 0 0 0 0];mc = dtmc (P);图;graphplot (mc,“ColorEdges”,真正的);

图中包含一个轴对象。axis对象包含一个graphplot类型的对象。

因为过渡矩阵是正确的随机,所以马尔可夫链具有静止分布 π 这样 π π P

确定马尔可夫链是否是不可缩短的。

tfred = isreeducible(mc)
总和生育率=逻辑0

总和生育率= 0表示链是不可约的。这个结果表明 π 是独一无二的。

确定马尔可夫链是否遍历。

tfErg = isergodic (mc)
tferg =.逻辑0

tferg = 0.表明链不是ergodic。这个结果表明 π 不是任意初始分布的限制分配。

你可以用两种方法来确定马尔可夫链是否具有周期性。

  • 不可约且非遍历的链是周期性的。上一节的结果表明,马尔可夫链是周期性的。

  • 检查复平面上特征值的图。特征值图表明马尔可夫链是否是周期性的,图揭示了链的周期。

在复平面上画出马尔可夫链的特征值。

图;Eigplot(MC);

图中包含一个轴对象。axis对象包含5个类型为line, patch的对象。这些对象代表特征值,谱隙。

特征值图的显着特征包括:

  • 大胆的星号是珀罗弗罗布尼乌斯特征值。它具有1的大小,并保证非负转换矩阵。

  • 在单位根处的所有特征值表示周期性。因为单位圆上有三个特征值,所以链的周期是3。

  • 光谱间隙是单位圆周的圆周与圆的圆周之间的区域,其具有第二大特征值幅度(SLEM)的半径。光谱间隙的尺寸决定了马尔可夫链的混合速率。

  • 一般来说,谱决定了链的结构性质。

计算马尔可夫链的静止分布。

xFix =渐近(mc)
Xfix =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFix是链的唯一平稳分布,但不是任意初始分布的极限分布。

通过使用两个20步重新分配来可视化Markov链的状态分布的两种演变。对于第一次重新分配,请使用默认均匀初始分发。对于第二个重新分发,请指定初始分发,将所有权重放在第一个状态上。

x1 =重新分配(MC,20);图;distplot(mc,x1);

图中包含一个轴对象。标题为“状态分布”的axis对象包含一个类型为image的对象。

X2 =重新分配(mc 20“X0”,[1 0 0 0 0 0 0]);图;distplot(mc,x2);

图中包含一个轴对象。标题为“状态分布”的axis对象包含一个类型为image的对象。

在图中,周期性是明显的,并防止国家分布沉降。此外,不同的初始值产生不同的进化。

通过将马尔可夫链转换为懒链来去除周期性。绘制懒惰链的有向图。确定懒惰链是否不可约和遍历的。

lc =懒惰(mc);图;graphplot (lc);

图中包含一个轴对象。axis对象包含一个graphplot类型的对象。

tfRedLC = isreducible (lc)
tfredlc =逻辑0
tfErgLC = isergodic (lc)
tfErgLC =逻辑1

观察有向图中的自循环。为了消除周期性,lazy链强制执行状态持久性。懒惰链是不可约的和遍历的。

在复平面上画懒惰链的特征值。

图;Eigplot(LC);

图中包含一个轴对象。axis对象包含5个类型为line, patch的对象。这些对象代表特征值,谱隙。

除了珀罗 - 弗罗布尼乌斯特征值外,懒惰连锁没有任何特征值。因此,惰性链具有1.因为惰性链的光谱间隙比未转化链的光谱间隙薄,阱链比未转化的链更慢。

计算懒惰链的平稳分布。

Xfixlc =渐近学(LC)
xfixlc =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFixLC是链的唯一平稳分布,它是给定任意初始分布的极限分布。同时,xFixLCxFix是相同的。

通过使用一个10步的再分配来可视化懒惰链的状态分布的演变。

XLC =重新分配(lc, 10);图;XLC distplot (lc)

图中包含一个轴对象。标题为“状态分布”的axis对象包含一个类型为image的对象。

状态分布在不到10个时间步长的时间内由均匀分布演化为平稳分布。观察最后一步的颜色是否与中的值匹配xFixLC

另请参阅

对象

功能

相关话题