模型选择的主要目标是选择最简洁的模型,使其充分适合您的数据。三个渐近等价检验比较了一个限制模型(空模型)和一个不限制模型(替代模型),以适应相同的数据:
似然比(LR)检验
拉格朗日乘数(LM)检验
瓦尔德(W)测试
对于带有参数的模型θ,考虑这个限制 空模型满足了这一点。例如,考虑测试零假设 这个测试的限制函数是
LR、LM和Wald测试不同地解决了比较受限模型与非受限模型的拟合问题。对于给定的数据集,设 表示在受限(null)模型的最大似然估计(MLE)处评估的对数似然函数。让 表示在无限制(可选)模型的最大似然值处的对数似然函数。下图说明了每个测试背后的基本原理。
似然比检验。如果限制模型是充分的,那么最大目标函数, 不应该与零有显著差异。
拉格朗日乘子检验。如果限制模型是适当的,那么log似然函数在限制MLE处的切线斜率(表示为T0在图中)应该与零(即对数似然函数在无限制MLE处的切线斜率,用T表示)没有显著差异。
瓦尔德测试。如果限制模型是充分的,那么在不限制MLE处的限制函数值不应与零(即限制MLE处的限制函数值)有显著差异。
这三个检验是渐近等价的。在null条件下,LR、LM和Wald检验统计量均为 自由度等于限制的数量。如果检验统计量超过检验临界值(等价地,p值小于或等于显著性水平),则无效假设被拒绝。也就是说,我们摒弃了受限模型,而采用了非受限模型。
在LR、LM和Wald测试中进行选择主要取决于计算成本:
为了进行似然比测试,您需要同时估计受限和非受限模型。
为了进行拉格朗日乘数测试,您只需要估计受限模型(但测试需要估计方差-协方差矩阵)。
要进行Wald测试,您只需要估计不受限制的模型(但是测试需要估计方差-协方差矩阵)。
在所有条件相同的情况下,LR测试通常是比较嵌套模型的首选。Econometrics Toolbox™具有所有三个测试的功能。
你可以使用lratiotest
.所需的输入是:
最大无限制对数似然值,
最大限制对数似然值,
限制数量(自由度)
给定这些输入,似然比检验统计量为
当估计条件均值和方差模型时(使用华宇电脑
,garch
,egarch
,或gjr
),可以将对数似然目标函数的值作为可选的输出参数返回估计
或推断出
.对于多变量时间序列模型,可以使用对数似然目标函数的值估计
.
进行拉格朗日乘数检验所需的输入是:
在受限MLEs(分数)处评估的非受限似然的梯度,年代
受限MLEs处非受限参数的方差-协方差矩阵,V
给定这些输入,LM检验统计量为
你可以使用航空航天
.LM测试的一个具体例子是Engle的ARCH测试,您可以使用它来进行测试archtest
.
进行Wald测试所需的输入是:
在不受限制的MLE处计算的约束函数,r
约束函数的雅可比矩阵在不受限制的MLEs处求值,R
无约束最大似然估计时无约束参数的方差-协方差矩阵,V
有了这些输入,Wald测试的测试统计量是
你可以使用waldtest
.
提示
通常可以用解析法计算约束函数的雅可比矩阵。或者,如果您有Symbolic Math Toolbox™,也可以使用该函数雅可比矩阵
.
估计方差-协方差矩阵有几种常用的方法,包括:
梯度的外积(OPG)。让G为对数似然函数的梯度矩阵。如果你的数据集有N观察,有米参数在无限制似然中,则G是一个N×米矩阵。
矩阵 为方差-协方差矩阵的OPG估计。
为华宇电脑
,garch
,egarch
,gjr
模型,估计
方法返回方差-协方差矩阵的OPG估计。
逆负Hessian (INH)。给出对数似然函数 INH协方差估计有元素
多元模型的估计函数,估计
,返回期望的Hessian方差-协方差矩阵。
提示
如果你有符号数学工具箱,你可以使用雅可比矩阵
计算对数似然函数的Hessian矩阵。