主要内容

渐近

确定马尔可夫链渐近

描述

例子

xFix=渐近(mc)返回平稳分布xFix离散时间的马尔可夫链mc

例子

(xFix,tMix)=渐近(mc)此外返回一个混合时间的估计tMix

例子

全部折叠

考虑这种理论,right-stochastic过渡矩阵的一个随机过程。

P = ( 0 0 1 / 2 1 / 4 1 / 4 0 0 0 0 1 / 3 0 2 / 3 0 0 0 0 0 0 0 1 / 3 2 / 3 0 0 0 0 0 1 / 2 1 / 2 0 0 0 0 0 3 / 4 1 / 4 1 / 2 1 / 2 0 0 0 0 0 1 / 4 3 / 4 0 0 0 0 0 ]

创建的马尔可夫链的特点是过渡矩阵P

P = [0 0 1/2 1/4 1/4 0 0;0 0 0 1/3 2/3 0 0;0 0 0 0 0 1/3 2/3;0 0 0 0 0 1/2 1/2;0 0 0 0 0 3/4 1/4;1/2 1/2 0 0 0 0 0;1/4 3/4 0 0 0 0 0];mc = dtmc (P);

一个有向图的马尔可夫链的阴谋。表明利用边缘颜色过渡的可能性。

图;graphplot (mc,“ColorEdges”,真正的);

图包含一个坐标轴对象。坐标轴graphplot类型的对象包含一个对象。

确定马尔可夫链的平稳分布。

xFix =渐近(mc)
xFix =1×70.1300 0.2034 0.1328 0.0325 0.1681 0.1866 0.1468

因为xFix是一个行向量,它独特的平稳分布吗mc

创建一个五状态转移矩阵的实证计算通过生成块对角矩阵组成的离散均匀了。

m = 100;%最大计数rng (1);%的再现性P = blkdiag (randi(100 2) + 1,兰迪(100 3)+ 1)
P =5×543 2 0 0 0 74 32 0 0 0 0 0 16 43 36 0 0 11 41 70 0 0 20 55 22

创建和情节有向图的马尔可夫链的特点是过渡矩阵P

mc = dtmc (P);图;graphplot (mc)

图包含一个坐标轴对象。坐标轴graphplot类型的对象包含一个对象。

确定平稳分布和马尔可夫链的混合时间。

[xFix, tMix] =渐近(mc)
xFix =2×50.9401 - 0.0599 0 0 0 0 0 0.1497 0.4378 0.4125
tMix = 0.8558

xFix对应的平稳分布的两个独立的类复发mc

创建单独的马尔可夫链表示经常性的子链mc

mc1 =子链(mc, 1);mc2 =子链(mc, 3);

mc2dtmc对象。是复发性类包含状态1,mc2是复发性类包含状态3

子链的混合时间进行比较。

(x1, t1) =渐近(哪)
x1 =1×20.9401 - 0.0599
t1 = 0.7369
(x2, t2) =渐近(mc2)
x2 =1×30.1497 0.4378 0.4125
t2 = 0.8558

更快地接近其平稳分布mc2

创建一个“哑铃”马尔可夫链包含10个州在每个“重量”和三个州的“酒吧”。

  • 指定随机状态之间的转移概率在每个的重量。

  • 如果马尔可夫链达到国家的重量接近酒吧,然后指定一个高概率过渡的酒吧。

  • 在酒吧里指定统一的状态之间的转换。

rng (1);%的再现性w = 10;%哑铃DBar = [0 1 0;1 0 1;0 1 0];%哑铃杆DB = blkdiag(兰德(w), DBar,兰德(w));%转移矩阵%连接哑铃重量和酒吧DB (w w + 1) = 1;DB (w + 1, w) = 1;DB (w w + 3, + 4) = 1;DB (w + 4, w + 3) = 1;mc = dtmc (DB);

使用的热图可视化转移矩阵。

图;显示亮度图像(mc.P);colormap(飞机);轴广场;colorbar;

图包含一个坐标轴对象。坐标轴对象包含一个类型的对象的形象。

一个有向图的马尔可夫链的阴谋。抑制节点标签。

图;h = graphplot (mc);h。NodeLabel = {};

图包含一个坐标轴对象。坐标轴graphplot类型的对象包含一个对象。

绘制哑铃链的特征值。

图;eigplot (mc);

图包含一个坐标轴对象。坐标轴对象包含5线类型的对象,补丁。一个或多个行显示的值只使用这些对象标记代表特征值,光谱的差距。

薄,红色圆盘图显示了光谱的差距(两个最大特征值模之间的差异)。光谱的差距决定了马尔可夫链的混合时间。表明混合速度,差距太大而薄的差距表明混合慢。在这种情况下,光谱差距是薄,表明混合时间长。

估计哑铃链的混合时间,并确定是否遍历链。

[~,tMix] =渐近(mc)
tMix = 85.3258
tf = isergodic (mc)
tf =逻辑1

平均而言,时间总变异距离任何初始分布和衰减的平稳分布的因素 e 1 大约是85步。

输入参数

全部折叠

离散时间马尔可夫链与NumStates状态和转移矩阵P指定为一个dtmc对象。P必须完全指定的(没有条目)。

输出参数

全部折叠

平稳分布,xFix * P=xFix,作为一个非负数字矩阵与返回NumStates列。的行数xFix独立复发性类的数目在吗mc

  • unichains分布是独特的,xFix是一个1——- - - - - -NumStates向量。

  • 否则,每一行xFix代表一个不同的平稳分布mc

混合时间,作为一个积极的数字标量返回。

如果μ第二大特征值模量(SLEM)P,存在非零,那么估计混合时间 1 / 日志 ( μ )

请注意

  • 如果P是一个非负随机矩阵,马尔可夫链吗mc它是有一个左特征向量xFix与特征值1。Perron-Frobenius定理[2]意味着,如果mcunichain(连锁与单个反复沟通类),然后呢xFix是独一无二的。与多个复发性类,可约链特征值1具有较高的多样性,xFixnonunique。如果一个链是周期性的,xFix是静止的而不是限制因为任意的初始分布不收敛。xFix既独特又限制为只遍历链。看到分类

  • 遍历链,tMix是一个特征时间初始分布收敛到吗xFix。具体地说,它是时间的总距离最初的分布和变化xFix衰变的一个因素e=实验(1)。混合时间的过渡结构在不同的相对连接链。

引用

[1]Gallager, R.G.随机过程:理论的应用。英国剑桥:剑桥大学出版社,2013年。

[2]角,R。,C. R. Johnson.矩阵分析。英国剑桥:剑桥大学出版社,1985年。

[3]Seneta E。非负矩阵和马尔可夫链。纽约,纽约州:斯普林格出版社,1981年版。

版本历史

介绍了R2017b