这个例子展示了如何计算马尔可夫链的平稳分布,估计其混合时间,并确定链是否遍历和可约。该示例还显示了如何在不影响渐近行为的情况下消除链的周期性。
考虑这个理论,随机过程的右随机转移矩阵。
创建以转移矩阵为特征的马尔可夫链P.绘制链的有向图,并使用边颜色指示转移概率。
P=[01/21/41/40 0;01/30 0 2/30 0;01/3 2/3;01/2 1/2;01/2 0 0 0 0 0 3/4 1/4;1/2 1/2 0 0 0 0 0 0 0 0 0;1/4 3/4 0 0 0 0 0 0 0 0 0 0 0];mc=dtmc(P);图形图幅(mc,“彩色边缘”,对);
由于转移矩阵是右随机的,因此马尔可夫链具有平稳分布 以致 .
确定马尔可夫链是否不可约。
tfRed=isreducible(mc)
tfRed=必然的0
tfRed=0
指示链是不可约的。此结果意味着
这是独一无二的。
确定马尔可夫链是否是遍历的。
tfErg=isergodic(mc)
特伯格=必然的0
tfErg=0
指示链不是遍历的。此结果意味着
不是任意初始分布的限制分布。
您可以通过两种方式确定马尔可夫链是否是周期性的。
不可约且非遍历的链是周期的。上一节的结果表明马尔可夫链是周期性的。
检查复平面上的特征值图。特征值图指示马尔可夫链是否周期,该图显示链的周期。
在复平面上绘制马尔可夫链的特征值。
图形eigplot(mc);
特征值图的显著特征包括:
粗体星号是Perron-Frobenius特征值。它的大小为1,对于非负转移矩阵是有保证的。
单位根上的所有特征值表示周期性。因为单位圆上有三个特征值,所以链的周期为3。
光谱间隙是单位圆周长与半径为第二大特征值幅值(SLEM)的圆周长之间的面积。谱隙的大小决定了马尔可夫链的混合速率。
通常,光谱决定链的结构特性。
计算马尔可夫链的平稳分布。
xFix=渐近(mc)
xFix=1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468
xFix
是链的唯一平稳分布,但不是任意初始分布的极限分布。
通过使用两个20步重分布,可视化马尔可夫链状态分布的两种演变。对于第一次重新分布,使用默认的统一初始分布。对于第二次重新分布,请指定将所有权重都放在第一个状态上的初始分布。
X1=重新分配(mc,20);图形距离图(mc,X1);
X2=重新分配(mc,20,“X0”,[1 0 0 0 0 0 0]); 图形距离图(mc,X2);
在图中,周期性是明显的,并防止状态分布沉降。此外,不同的初始值产生不同的演化。
通过将马尔可夫链转换为“惰性”链,消除马尔可夫链的周期性。绘制懒惰链的有向图。确定惰性链是否不可约且遍历。
lc=懒惰(mc);图形图幅(lc);
tfRedLC=isreducible(lc)
tfRedLC=必然的0
tfErgLC=isergodic(lc)
tfErgLC=必然的1.
观察有向图中的自循环。为了消除周期性,惰性链强制执行状态持久性。惰性链是不可约且遍历的。
在复平面上绘制惰性链的特征值。
图;eigplot(lc);
除了Perron-Frobenius特征值外,惰性链在单位根上没有任何特征值。因此,惰性链的周期为1。由于惰性链的光谱间隙比未转换链的光谱间隙小,因此惰性链的混合速度比未转换链慢。
计算惰性链的平稳分布。
xFixLC=渐近性(lc)
xFixLC=1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468
xFixLC
是链的唯一平稳分布,是给定任意初始分布的极限分布。而且xFixLC
和xFix
都是一样的。
通过使用10步重分布,可视化惰性链状态分布的演变。
XLC=重新分配(lc,10);图;距离图(lc,XLC)
在不到10个时间步长内,状态分布从均匀分布演变为平稳分布。观察最后一步的颜色是否与中的值匹配xFixLC
.