马尔可夫链分析与平稳分布

这个例子说明了如何获得一个微不足道的象征平稳分布马尔可夫链通过计算它的特征分解。

平稳分布表示随着步数或转移数的增加,马尔可夫过程状态的极限、时间无关的分布。

定义状态之间的(正)转移概率一个通过F如上图所示。

信谊一个bcdefcCA建行积极的;

进一步增加的假设边界的转移概率。这将在以后选择理想的平稳分布有帮助。

assumeAlso([A,B,C,E,F,CCA,CCB] <1 d == 1);

定义转换矩阵。州一个通过F映射到列和行1通过6。注意,每一行的值和为1。

P =符号(0 (6,6));P(1,1:2) = [a 1-a];P(2,1:2) = [1-b];P(3,1:4) = [cCA cCB c (1-cCA-cCB-c)];P (4, 4) = d;P(5,5:6) = [e 1-e];P(6,5:6) = [1-f f];P
P =

( 一个 1 - 一个 0 0 0 0 1 - b b 0 0 0 0 cCA 建行 c 1 - cCA - 建行 - c 0 0 0 0 0 d 0 0 0 0 0 0 e 1 - e 0 0 0 0 1 - f f ) [a, 1 - a, sym(0), sym(0), sym(0), sym(0);1 - b, b, sym(0), sym(0), sym(0), sym(0);cCA, cCB, c, 1 - cCA - cCB - c, sym(0), sym(0);sym(0)、sym(0)、sym(0)、d、sym(0)、sym(0);sym(0), sym(0), sym(0), sym(0), e, 1 - e;sym(0), sym(0), sym(0), sym(0), 1 - f, f]

计算马尔可夫链的状态的所有可能的分析平稳分布。这是提取的问题特征向量对应的特征值可以等于1对于某个转移概率的值。

[V D] = eig (P ');

分析特征向量

V
V =

( b - 1 一个 - 1 0 - c - d 建行 - b cCA - b 建行 + c cCA σ 1 0 - 1 0 1 0 - c - d cCA - 一个 cCA - 一个 建行 + c 建行 σ 1 0 1 0 0 0 - c - d c + cCA + 建行 - 1 0 0 0 0 0 1 1 0 0 0 f - 1 e - 1 0 0 0 - 1 0 1 0 0 0 1 ) 在哪里 σ 1 = c + cCA + 建行 - 1 一个 + b - 一个 c - b c + c 2 - 1 [(b - 1) /(- 1),信谊(0)- ((c - d) * *建行(cCB - b * cCA b + c * cCA)) / ((cCA c + +建行- 1)* (a + b - a * c - b * c + c ^ 2 - 1)),信谊(0),信谊(1),信谊(0);信谊(1),信谊(0)- ((c - d) * (cCA - cCA a * - *建行+ c *建行))/ ((cCA c + +建行- 1)* (a + b - a * c - b * c + c ^ 2 - 1)),信谊(0),信谊(1),信谊(0);信谊(0),信谊(0)- (c - d) / (cCA c + +建行- 1),信谊(0),信谊(0),信谊(0);sym(0)、sym(0)、sym(1)、sym(1)、sym(0)、sym(0)信谊(0)(f - 1) / (e - 1),信谊(0),信谊(0),信谊(0),信谊(1);sym(0)、sym(1)、sym(0)、sym(0)、sym(1)]

分析特征值

DIAG(d)
ans =

( 1 1 c d 一个 + b - 1 e + f - 1 ) (信谊(1);信谊(1);c;d;a + b - 1;e + f - 1]

找到恰好等于1的特征值。如果在确定任何特征值的条件时有任何不明确的地方,以错误停止-这样我们可以确定当这一步成功时,下面的指数列表是可靠的。

ix = find(isAlways(diag(D)) == 1,'未知','错误'));诊断(d(IX,ⅸ))
ans =

( 1 1 d ) (信谊(1);信谊(1);d]

提取分析平稳分布。特征向量用1范数或者标准化sum (abs (X))在显示之前

k = ix' V(:,k) = simplify(V(:,k)/norm(V(:,k)),1);结束概率= V(:,ⅸ)
概率=

( b - 1 一个 - 1 σ 2 0 0 1 σ 2 0 0 0 0 0 0 0 1 0 f - 1 σ 1 e - 1 0 0 1 σ 1 0 ) 在哪里 σ 1 = f - 1 2 e - 1 2 + 1 σ 2 = b - 1 2 一个 - 1 2 + 1 [(b - 1) / ((- 1) * sqrt ((b - 1) ^ 2 / (a - 1) ^ 2 + 1)),信谊(0),信谊(0);1/√(b - 1)^2/(a - 1)^2 + 1) sym(0) sym(0)信谊(0),信谊(0),信谊(0);信谊(0),信谊(0),信谊(1);信谊(0)(f - 1) / (sqrt ((f - 1) ^ 2 / (e - 1) ^ 2 + 1) * (e - 1)),信谊(0);1/√(f - 1)²/(e - 1)²+ 1),sym(0)]

稳态的概率一个要么B在第一个特征向量的情况是一个转移概率的函数一个b。可视化这种依赖性。

fsurf(概率(1),[0 1 0 1]);包含一个ylabelb标题(“概率”);

图(2);fsurf(概率(2),[0 1 0 1]);包含一个ylabelb标题(“B”的概率);

平稳分布证实了以下情况(回想一下状态)一个通过F对应行指标1通过6):

  • 状态C从未达到,因此瞬态即第三行是完全为零。

  • 州的其余部分形成三组,{一个,B},{D}和{E,F相互之间不通信,而且是周期性的。