主要内容

确定马尔可夫链的渐近行为

这个例子展示了如何计算马尔可夫链的平稳分布,估计其混合时间,并确定链是否遍历和可约。该示例还显示了如何在不影响渐近行为的情况下消除链的周期性。

考虑这个理论,随机过程的右随机转移矩阵。

P = [ 0 0 1. / 2. 1. / 4. 1. / 4. 0 0 0 0 1. / 3. 0 2. / 3. 0 0 0 0 0 0 0 1. / 3. 2. / 3. 0 0 0 0 0 1. / 2. 1. / 2. 0 0 0 0 0 3. / 4. 1. / 4. 1. / 2. 1. / 2. 0 0 0 0 0 1. / 4. 3. / 4. 0 0 0 0 0 ] .

创建以转移矩阵为特征的马尔可夫链P.绘制链的有向图,并使用边颜色指示转移概率。

P=[01/21/41/40 0;01/30 0 2/30 0;01/3 2/3;01/2 1/2;01/2 0 0 0 0 0 3/4 1/4;1/2 1/2 0 0 0 0 0 0 0 0 0;1/4 3/4 0 0 0 0 0 0 0 0 0 0 0];mc=dtmc(P);图形图幅(mc,“彩色边缘”,对);

图中包含一个轴对象。axes对象包含graphplot类型的对象。

由于转移矩阵是右随机的,因此马尔可夫链具有平稳分布 π 以致 π = π P .

确定马尔可夫链是否不可约。

tfRed=isreducible(mc)
tfRed=必然的0

tfRed=0指示链是不可约的。此结果意味着 π 这是独一无二的。

确定马尔可夫链是否是遍历的。

tfErg=isergodic(mc)
特伯格=必然的0

tfErg=0指示链不是遍历的。此结果意味着 π 不是任意初始分布的限制分布。

您可以通过两种方式确定马尔可夫链是否是周期性的。

  • 不可约且非遍历的链是周期的。上一节的结果表明马尔可夫链是周期性的。

  • 检查复平面上的特征值图。特征值图指示马尔可夫链是否周期,该图显示链的周期。

在复平面上绘制马尔可夫链的特征值。

图形eigplot(mc);

图中包含一个轴对象。axes对象包含5个类型为line、patch的对象。这些物体代表特征值,光谱间隙。

特征值图的显著特征包括:

  • 粗体星号是Perron-Frobenius特征值。它的大小为1,对于非负转移矩阵是有保证的。

  • 单位根上的所有特征值表示周期性。因为单位圆上有三个特征值,所以链的周期为3。

  • 光谱间隙是单位圆周长与半径为第二大特征值幅值(SLEM)的圆周长之间的面积。谱隙的大小决定了马尔可夫链的混合速率。

  • 通常,光谱决定链的结构特性。

计算马尔可夫链的平稳分布。

xFix=渐近(mc)
xFix=1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFix是链的唯一平稳分布,但不是任意初始分布的极限分布。

通过使用两个20步重分布,可视化马尔可夫链状态分布的两种演变。对于第一次重新分布,使用默认的统一初始分布。对于第二次重新分布,请指定将所有权重都放在第一个状态上的初始分布。

X1=重新分配(mc,20);图形距离图(mc,X1);

图中包含一个轴对象。具有状态标题分布的Axis对象包含类型为image的对象。

X2=重新分配(mc,20,“X0”,[1 0 0 0 0 0 0]); 图形距离图(mc,X2);

图中包含一个轴对象。具有状态标题分布的Axis对象包含类型为image的对象。

在图中,周期性是明显的,并防止状态分布沉降。此外,不同的初始值产生不同的演化。

通过将马尔可夫链转换为“惰性”链,消除马尔可夫链的周期性。绘制懒惰链的有向图。确定惰性链是否不可约且遍历。

lc=懒惰(mc);图形图幅(lc);

图中包含一个轴对象。axes对象包含graphplot类型的对象。

tfRedLC=isreducible(lc)
tfRedLC=必然的0
tfErgLC=isergodic(lc)
tfErgLC=必然的1.

观察有向图中的自循环。为了消除周期性,惰性链强制执行状态持久性。惰性链是不可约且遍历的。

在复平面上绘制惰性链的特征值。

图;eigplot(lc);

图中包含一个轴对象。axes对象包含5个类型为line、patch的对象。这些物体代表特征值,光谱间隙。

除了Perron-Frobenius特征值外,惰性链在单位根上没有任何特征值。因此,惰性链的周期为1。由于惰性链的光谱间隙比未转换链的光谱间隙小,因此惰性链的混合速度比未转换链慢。

计算惰性链的平稳分布。

xFixLC=渐近性(lc)
xFixLC=1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFixLC是链的唯一平稳分布,是给定任意初始分布的极限分布。而且xFixLCxFix都是一样的。

通过使用10步重分布,可视化惰性链状态分布的演变。

XLC=重新分配(lc,10);图;距离图(lc,XLC)

图中包含一个轴对象。具有状态标题分布的Axis对象包含类型为image的对象。

在不到10个时间步长内,状态分布从均匀分布演变为平稳分布。观察最后一步的颜色是否与中的值匹配xFixLC.

另见

物体

功能

相关话题