马尔可夫链模型

离散时间马尔可夫链对象框架概述

dtmc对象框架提供了建模和分析离散马尔科夫链的基本工具。该对象支持具有有限数目金宝app的状态链,这些状态链在离散时间内以时间均匀的过渡结构演化。

dtmc用a来标识每个马尔可夫链NumStates-通过-NumStates转移矩阵P初始状态的独立x0或者状态的初始分布π0。您可以指定P无论是作为右随机矩阵或经验计数的矩阵。

  • 作为右随机矩阵:

    • PIJ从状态转变的非负概率是多少国家j

    • 每行P金额为1。

    • π t + 1 = π t P 描述了从时间状态分布的演变t时间t+ 1。

    在时间的分布状态t,πt是长度的行向量NumStates

  • 作为经验计数矩阵,PIJ是次状态观察到的数转换到状态j。的dtmc对象的行进行规范化P所以,这是一个正确的,随机矩阵。

mcmix函数是另一个马尔科夫链对象的创造者;它生成具有指定零模式和随机转移概率的链。mcmix非常适合用于创建具有不同的混合时间,用于测试的目的链。

若要可视化与链关联的有向图或有向图,请使用graphplot对象的功能。graphplot类似于情节MATLAB的目标函数®有向图对象,但它包括用于分析马尔可夫链结构的附加功能。参数设置亮点通信类(即,强连通有向图的组件)以及影响收敛具体特点,如复发,短暂,和周期性。您可以突出显示转移概率在P通过使用热图强度着色图形边缘。

为了将链中的大规模结构可视化,graphplot可冷凝通信类来代表节点。此选项是基于缩合一个的目标函数有向图宾语。

分类目标函数是在该图类高亮的数值模拟。分类返回决定限制行为的通信类的特征。状态分类结合了图论算法,例如bfsearch(广度优先搜索)的目标函数的MATLAB对象,而是用更直接的矩阵计算特定于马尔可夫链的理论。的子链方法,可以从链作进一步的分析中提取特定通信类。

isreducibleisergodic对象函数给链结构的简明摘要。总之,他们提供了一个独特的极限分布存在的充分必要条件 π ,其中 π = π P π 0 π 对于每个初始分布π0。的渐近目标函数计算 π ,如果它存在,并使用特征值分析估计混合时间。的eigplot的特征值P。在此图中的特征值,图表的示例通过返回eigplot

收敛的一个障碍是周期性。的目标函数通过调整状态惯性(即,通过加权的对角元素消除周期性P),以产生在链“懒惰”的特定量。极限分布是通过这些变化的影响。

模拟重新分配当流程从指定的初始状态或分布发展时,对象函数提供流程的实现。的辛普劳distplot对象函数提供各种可视化。该图是一个分布图的例子,显示了从均匀初始状态分布开始的状态分布的演变。

马尔可夫链分析工作流

你可以开始在两个方面构建马尔可夫链模型对象:

  • 确定相关的离散状态的过程,然后估计它们之间的转移概率。在最简单的情况下,理论表明链结构和转移矩阵P。在这种情况下,你主要感兴趣的是理论在实践中是如何发挥作用的——这在理论中并不总是显而易见的。一旦你知道P通过传递创建一个Markov链对象Pdtmc,它实现了理论链。

  • 如果你对一个过程有较少的具体信息,那么你必须用不同数量的状态和可行的转换模式进行实验,以重现经验结果。的mcmix功能提供的洞察链,其可以捕获在数据基本特征的骨架结构。通过迭代过程中,可以调整随机生成的转换矩阵P以适应建模目标。

对于一个经济计量模型构建,选用的最重要的后果P是连锁的渐近行为。要理解这种行为,识别和区分来自经常性状态的过渡状态(一些国家对恢复时的概率趋于零渐近)(那些其恢复时的概率去一个渐近)。短暂和复发是由所有状态以连通的类共享属性。以确定状态是否视觉上是瞬时的或复发,通过马尔可夫链对象到graphplot对象函数和指定'ColorNodes',真。可替代地,的输出分类目标函数为评价提供的数字工具。该图是与被分类节点有向图的一个例子。

有向图的压缩视图将每个通信类合并为一个“超节点”,从而简化了这种计算。在压缩图中,可以通过超节点的输出度(大于0的输出度表示传递)轻松识别传递和递归。不可约链由单一的,必然反复发作,通信类的。Unichains由单个复发类和任意数量的卫星瞬时类的。Unichains保持不可约链的期望限制行为。考虑冷凝图的经常是前体修整不相干的瞬时状态的链。的子链功能修剪瞬态类链。这个数字是在上图的图的压缩视图。

统一的两个主要障碍,限制行为是:

  • 归约,存在多个通信类

  • 周期性中,单个类中的倾向周期的子类中

一种graphplot分类目标函数可以识别这些问题。如果一个链是可还原的,而不是一个unichain,是很常见的分析拆分独立复发类之间或完全重新制定链。如果链是周期性的(也就是说,它包含了周期性的反复类),但整体结构捕获应用程序的基本细节,对象函数提供了一种补救方法。懒惰的链条扰乱了对角元素P消除周期性,留下渐近性不受影响。

isreducibleisergodic对象函数总结状态分类。每条链都有一个平稳分布 π ,其中 π = π P 的结果P是随机的,具有一个的特征值。如果链是不可约的,平稳分布是独一无二的。然而,不可还原性,而足够的,不是唯一的必要条件。Unichains也导致其在过渡状态零个概率大众独特的平稳分布。在这方面,国家分类分析是必不可少的,因为isreducible返回真正仅当链作为一个整体由单个连通的类。isreducible返回对于任意的unichains,在这种情况下,您必须确定瞬态类是否是模型的相关部分。

遍历性,或原始性质是不可约和非周期性的组合。遍历链具有独特的极限分布,也就是说,π0收敛于 π 对于每个初始分布π0。你可以决定是否链条,作为一个整体,是遍历使用isergodic。该功能通过评估的唯一复发类标识遍历unichains。A链是周期性的,如果它是束缚而不是遍历,也就是说,如果〜tfirreduc+~ tfergo=,其中tfirreductfergo通过返回isreducibleisergodic,分别。

一旦确认链是遍历的,就可以使用渐近对象的功能。渐近返回极限分布 π 以及混合时间的估计,这是瞬态行为衰减的时间常数。关于不可约非负矩阵的Perron-Frobenius定理(参见[1])是用于解释这些结果是有用的。任何随机矩阵具有一个的谱半径。周期性矩阵期间,k,有k特征值均匀地分布绕单位圆的k团结的根源。在单位圆内的最大特征值的大小决定过渡状态的衰减率。的eigplot对象函数提供此信息的快速可视化。这个图是一个周期为3的马尔可夫链的特征值图。

不管链的渐近性的,可以研究通过施加有限步骤分析其混合率。的hitprobhittime函数返回从链中的每个状态开始的目标状态子集的命中概率和期望的第一次命中时间。这两个函数都可以选择绘制一个有向图,其中节点颜色指定命中概率或时间。该图显示了一个有向图的示例,其中节点颜色指定了预期的第一次命中时间。有向图还指示目标的起始状态是否为远程状态。

模拟和再分配让你产生上是难以直接从理论上推导链的统计信息。的模拟辛普劳对象的功能,和重新分配distplot对象函数,为此类分析提供计算和图形工具。模拟中,例如,产生通过链独立随机游动。与模拟在计量经济学工具箱别处对象功能™,相关统计数据的整体平均预报中发挥了重要作用。相应的辛普劳目标函数提供了几种方法来可视化。该图显示后长度的100个随机游动10个步骤,通过在前面的图中的周期马尔可夫链访问的状态的比例。

参考

[1]霍恩,R.,和C·R·约翰逊。矩阵分析。英国剑桥:剑桥大学出版社,1985年。

另请参阅

对象

功能

相关话题