确定马尔可夫链的渐近行为

这个例子展示了如何计算一个马尔可夫链的平稳分布,估计它的混合时间,并确定链是否是遍历的和可约的。该例子还展示了如何在不影响渐近行为的情况下从链中移除周期性。

考虑一个随机过程的这一理论,右随机转移矩阵。

P = ( 0 0 1 / 2 1 / 4 1 / 4 0 0 0 0 1 / 3. 0 2 / 3. 0 0 0 0 0 0 0 1 / 3. 2 / 3. 0 0 0 0 0 1 / 2 1 / 2 0 0 0 0 0 3. / 4 1 / 4 1 / 2 1 / 2 0 0 0 0 0 1 / 4 3. / 4 0 0 0 0 0 ]

创建以转换矩阵为特征的马尔可夫链P。画出链的有向图,并通过使用边缘颜色指示转移概率。

P = [0 0 1/2 1/4 1/4 0 0;0 0 1/3 0 2/3 0 0;0 0 0 0 0 1/3 /3;0 0 0 0 0 1/2 /2;0 0 0 0 0 3/4 /4;1/2 1/2 0 0 0 0 0;0 0 0 0 0 0];mc = dtmc (P);图;graphplot (mc,“ColorEdges”,真正的);

因为过渡矩阵是右随机,马尔科夫链具有固定分配 π 这样 π = π P

确定马尔可夫链是否是不可约的。

tfRed = isreducible(MC)
总和生育率=逻辑0

总和生育率= 0表示链是不可约的。这个结果意味着 π 是独一无二的。

确定马尔可夫链是否遍历。

tfErg = isergodic (mc)
tfErg =逻辑0

tfErg = 0指示该链不遍历。这个结果意味着 π 不是任意的初始分布的极限分布。

你可以用两种方法来确定一个马尔可夫链是否具有周期性。

  • 不可约且非遍历的链是周期性的。前面的结果表明,马尔可夫链是周期的。

  • 考察复平面上特征值的一个图。特征值图表示马尔可夫链是否具有周期性,特征值图表示马尔可夫链的周期。

在复平面上画出马尔可夫链的特征值。

图;eigplot(MC);

特征值情节显着特性包括:

  • 大胆的星号是门阶 - 弗罗贝纽斯特征值。它具有1的量值,并保证对于非负转换矩阵。

  • 在单位根上的所有特征值都表示周期性。因为在单位圆上有三个特征值,所以这个链的周期是3。

  • 频谱间隙是在单位圆的圆周上和所述圆与所述第二大特征值幅度(SLEM)的半径的圆周之间的区域。的频谱间隙的大小决定了Markov链的混合率。

  • 一般来说,光谱决定了链的结构性质。

计算马尔可夫链的平稳分布。

xFix =渐近(mc)
xFix =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFix是链的唯一平稳分布,而不是任意初始分布的极限分布。

通过使用两个20步重分布来可视化状态分布的两个演化。对于第一次重新分配,使用默认的均匀初始分配。对于第二次重新分配,指定一个初始分配,将所有的权重放在第一个状态上。

X1 =重分发(MC,20);图;distplot(MC,X1);

X2 =重新分配(mc 20“X0”,[1 0 0 0 0 0 0]);图;distplot(MC,X2);

在这些图中,周期性是明显的,并且阻止了状态分布的稳定。同样,不同的初始值产生不同的演进。

通过将马尔可夫链转化为“惰性”链来消除其周期性。画出懒惰链的有向图。确定惰性链是否不可约和遍历。

lc =懒惰(mc);图;graphplot (lc);

tfRedLC = isreducible (lc)
tfRedLC =逻辑0
tfErgLC = isergodic (lc)
tfErgLC =逻辑1

观察有向图中的自循环。为了消除周期性,延迟链强制执行状态持久性。惰性链是不可约和遍历的。

在复平面上画出懒惰链的特征值。

图;eigplot(LC);

懒惰链不具有单位根特征值的任何,除了门阶 - 弗罗贝纽斯特征值。因此,懒惰链具有一段1.因为懒惰链的频谱间隙比未转化的链的频谱间隙,比所述懒惰链混合物更缓慢地未转化的链更薄。

计算延迟链的平稳分布。

xFixLC =渐近(lc)
xFixLC =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

xFixLC是链的唯一平稳分布,是给定任意初始分布的极限分布。同时,xFixLCxFix是相同的。

通过使用10步重新分配来可视化惰性链的状态分布的演化。

XLC =重新分配(lc, 10);图;XLC distplot (lc)

状态分布由均匀分布演化为小于10个时间步长的平稳分布。观察最后一步的颜色是否与里面的值匹配xFixLC

另请参阅

对象

功能

相关话题