估计
符合贝叶斯数据线性回归模型的参数
语法
PosteriorMdl =估计(PriorMdl, X, y)
PosteriorMdl =估计(PriorMdl, X, y,名称,值)
[PosteriorMdl, estBeta EstBetaCov、estSigma2 estSigma2Var] =估计(___)
[PosteriorMdl, estBeta EstBetaCov、estSigma2 estSigma2Var,总结]=估计(___)
描述
PosteriorMdl=估计(PriorMdl,X,y)PriorMdl指定的共同先验分布参数和线性回归模型的结构,X是预测数据,y响应数据。PriorMdl和PosteriorMdl可能不是相同的对象类型。
生产PosteriorMdl,估计“更新”的先验分布参数,它从数据中收集的信息。
南在数据显示缺失值,估计使用list-wise删除删除。
(返回:PosteriorMdl,estBeta,EstBetaCov,estSigma2,estSigma2Var)=估计(___)
estBeta——估计回归系数,即均值向量的后验分布β。EstBetaCov——估计协方差矩阵系数的估计,即后验分布的协方差矩阵β。EstSigma2——干扰估计方差,即后验分布的均值σ2。EstSigma2Var——估计方差的扰动,即后验分布的方差σ2。
(使用任何输入参数在前面的语法,另外包含返回一个表,对每个参数,后验估计,标准错误,95%可信区间,后验概率参数大于0,如果它存在,后验分布的描述。PosteriorMdl,estBeta,EstBetaCov,estSigma2,estSigma2Var,总结)=估计(___)
例子
比较之前违约和边际OLS估计后验估计
加载carsmall数据集。考虑一个模型,预测汽车的燃油经济性(MPG)鉴于其发动机排量和体重。
负载carsmallx =(位移重量);y = MPG;
回归燃油经济性发动机排量和重量上包括一个拦截获得普通最小二乘(OLS)估计。
Mdl = fitlm (x, y)
Mdl =线性回归模型:y ~ 1 + x1 + x2估计系数:估计SE tStat pValue __________ _____ _________ __________(拦截)46.925 2.0858 22.497 6.0509 e-39 x1 x2 -0.014593 0.0082695 -1.7647 0.080968 -0.0068422 0.0011337 -6.0353 3.3838 e-08数量的观察:94年,错误自由度:91根均方误差:4.09平方:0.747,调整平方0.741 f统计量与常数模型:134年,即使假定值= 7.22
Mdl.MSE
ans = 16.7100
创建一个默认,扩散先验分布预测。
p = 2;PriorMdl = bayeslm (p);
PriorMdl是一个diffuseblm模型对象。
估计后验分布使用默认选项。
PosteriorMdl =估计(PriorMdl, x, y);
方法:分析后分布的观测数量:94的预测数量:3 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| 46.9247 - 2.1091[42.782,51.068]1.000吨(46.92、2.09 ^ 2,91)β(1)| -0.0146 - 0.0084[-0.031,0.002]0.040吨(-0.01、0.01 ^ 2,91)β(2)| -0.0068 - 0.0011[-0.009,-0.005]0.000吨(-0.01、0.00 ^ 2,91)Sigma2 | 17.0855 - 2.5905[12.748, 22.866] 1.000搞笑(45.50,0.0013)
PosteriorMdl是一个conjugateblm模型对象。
后方法和最小二乘估计系数和标准错误几乎是相同的。同时,后的均值Sigma2接近OLS MSE。
估计后用哈密顿蒙特卡罗采样器
考虑到多元线性回归模型,预测美国实际国民生产总值(GNPR)使用工业生产指数的线性组合新闻学会)、就业总人数(E),实际工资(或者说是)。
对所有
,
是一系列的独立和0的均值和方差高斯干扰吗
。假设先验分布:
是一个四维t分布在30度的自由对于每一个组件,相关矩阵C、位置ct,和规模圣。
,形状
和规模
。%
bayeslm对待这些假设和相应数据好像可能性后分析棘手。
声明一个MATLAB®函数:
接受的价值观
和
在一个列向量,hyperparameters和价值观。之前返回的值的联合分布,
给定的值和。
函数logPDF = priorMVTIG (params, ct,圣,景深,C, a, b)% priorMVTIG日志多元t乘以逆伽马密度% priorMVTIG通过params (1: end-1)的多元t密度%为每个组件函数与景深的自由度和积极的%的相关矩阵c priorMVTIG返回产品的日志%计算密度。%%参数:参数值的密度进行计算,一个% m×1数值向量。%% ct:多元t分布组件中心,一个(m - 1) 1%数值向量。元素对应于第一个m - 1的元素%的参数。%%圣:多元t分布组件尺度,(m - 1) 1%数字(m - 1) 1数值向量。对应的元素%的第一个参数的m - 1元素。%%景深:多元t分布的自由度%数值标量或(m - 1) 1数值向量。priorMVTIG扩展%标量,这样景深=景深* 1 (m - 1, 1)。景深的元素%的对应元素params (1: end-1)。%% C:多元t分布的相关矩阵% (m - 1)———(m - 1)对称正定矩阵。行和%的列对应元素params (1: end-1)。%%:逆伽马形状参数,一个积极的数字标量。%% b:逆伽马尺度参数,一个积极的标量。%β= params (1: (end-1));sigma2 = params(结束);tVal =(β- ct)。/圣;mvtDensity = mvtpdf (tVal C景深);igDensity = sigma2 ^ (1) * exp (1 / (sigma2 * b)) /(γ(a) * b ^);logPDF =日志(mvtDensity * igDensity);结束
创建一个匿名函数,操作priorMVTIG,但只接受参数值并持有hyperparameter值固定任意选择的值。
rng (1);%的再现性景深= 30;V =兰德(4,4);σ= V ' * V;圣=√诊断接头(σ));C = Sigma. /(圣*圣”);ct = -10 *兰德(4,1);= 10 *兰特;b = 10 *兰德;logPDF = @ (params) priorMVTIG (params, ct,圣,景深,C, a, b);
创建一个定制的联合线性回归参数的先验模型。指定数量的预测,p。同时,指定函数处理priorMVTIG和变量名。
p = 3;PriorMdl = bayeslm (p,“ModelType”,“自定义”,“LogPDF”logPDF,…“VarNames”,(“他们”“E”“福”]);
PriorMdl是一个customblm贝叶斯线性回归模型对象代表回归系数的先验分布和扰动方差。
加载Nelson-Plosser数据集。为响应和预测系列创建变量。
负载Data_NelsonPlosserX = DataTable {: PriorMdl.VarNames(2:结束)};y = DataTable {:,“GNPR”};
估计边际的后验分布
和利用哈密顿蒙特卡罗(HMC)取样器。指定图纸10000样品和老化时间的1000了。
PosteriorMdl =估计(PriorMdl, X, y,的取样器,hmc的,“NumDraws”1 e4,…“燃烧”1 e3);
方法:与10000年获得了数量的观察:62年的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -23.8627 - 3.1511[-30.065,-17.459]0.000经验IPI | 4.3810 - 0.1088[4.166, 4.594] 1.000经验E | 0.0011 - 0.0002[0.001, 0.002] 1.000经验或者说是| 2.5026 - 0.3360[1.846,3.184]1.000经验Sigma2 | 40.0057 - 6.8285[28.631, 55.557] 1.000经验
PosteriorMdl是一个empiricalblm模型对象存储从后验分布。
查看跟踪情节和后的ACF的情节吸引,例如,
方差和干扰。不老化期。
图;次要情节(2,1,1)情节(PosteriorMdl.BetaDraws(1001:结束);标题(“跟踪情节——\ beta_1”);包含(“获得画”)ylabel (“模拟指数”次要情节(2,1,2)autocorr (PosteriorMdl.BetaDraws(1001:结束)图;次要情节(2,1,1)情节(PosteriorMdl.Sigma2Draws(1001:结束);标题(“跟踪情节——干扰方差”);包含(“获得画”)ylabel (“模拟指数”次要情节(2,1,2)autocorr (PosteriorMdl.Sigma2Draws(1001:结束)
密度的扰动样本方差似乎混合。
估计条件后验分布
下面的例子使用了相同的数据和上下文估计后用哈密顿蒙特卡罗采样器之前,但假定扩散模型。
线性回归之前创建一个扩散模型参数。指定数量的预测,p和回归系数的名称。
p = 3;PriorMdl = bayeslm (p,“ModelType”,“扩散”,“VarNames”,(“他们”“E”“福”])
PriorMdl = |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| 0正(南南)0.500一个IPI | 0正成正比(南南)0.500比例1 E | 0正(南南)0.500一个WR | 0正成正比(南南)0.500比例一Sigma2 |正正(南南)1.000 1 / Sigma2成正比
PriorMdl是一个diffuseblm模型对象。
加载Nelson-Plosser数据集。为响应和预测系列创建变量。
负载Data_NelsonPlosserX = DataTable {: PriorMdl.VarNames(2:结束)};y = DataTable {:,“GNPR”};
估计的条件后验分布
考虑到
和数据。
(Mdl condPostMeanBeta CondPostCovBeta] =估计(PriorMdl, X, y,…“Sigma2”2);
方法:分析后验分布条件变量:Sigma2固定在2号的观察:62年的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -24.2536 - 1.8696 [-27.918,-20.589]0.000 N (-24.25、1.87 ^ 2) IPI | 4.3913 - 0.0301 [4.332, 4.450] 1.000 N E (4.39、0.03 ^ 2) | 0.0011 - 0.0001 [0.001, 0.001] 1.000 N (0.00、0.00 ^ 2) WR | 2.4682 - 0.0743 [2.323, 2.614] 1.000 N (2.47、0.07 ^ 2) Sigma2 | 2 0[2.000, 2.000] 1.000固定值
估计返回4-by-1意味着向量和4×4的条件后验分布的协方差矩阵鉴于和数据condPostMeanBeta和CondPostCovBeta,分别。同时,估计显示的条件后验分布的摘要。因为这是固定在估计,推断
是微不足道的。
显示Mdl。
Mdl
Mdl = |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| 0正(南南)0.500一个IPI | 0正成正比(南南)0.500比例1 E | 0正(南南)0.500一个WR | 0正成正比(南南)0.500比例一Sigma2 |正正(南南)1.000 1 / Sigma2成正比
因为估计计算条件后验分布,它返回原来的模型之前,不后,在第一个位置的输出参数列表。
估计的条件后验分布考虑到是condPostMeanBeta。
[~,~,~,condPostMeanSigma2 condPostVarSigma2] =估计(PriorMdl, X, y,…“β”,condPostMeanBeta);
方法:分析后验分布条件变量:β固定数量的观察:2.46823 -24.2536 4.3913 0.00112035 62的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -24.2536 0[-24.254,-24.254]0.000固定值IPI | 4.3913 0[4.391, 4.391] 1.000固定值E | 0.0011 0[0.001, 0.001] 1.000固定值WR | 2.4682 0[2.468, 2.468] 1.000固定值Sigma2 | 48.5138 - 9.0088[33.984, 69.098] 1.000搞笑(31.00,0.00069)
估计返回的条件后验分布的均值和方差鉴于是condPostMeanBeta和数据condPostMeanSigma2和CondPostVarSigma2,分别。显示,推论是微不足道的。
访问估计估计显示
下面的例子使用了相同的数据和上下文估计后用哈密顿蒙特卡罗采样器,而是假定semiconjugate先验模型。
创建一个semiconjugate之前线性回归模型参数。指定数量的预测,p和回归系数的名称。
p = 3;PriorMdl = bayeslm (p,“ModelType”,“semiconjugate”,…“VarNames”,(“他们”“E”“福”]);
PriorMdl是一个semiconjugateblm模型对象。
加载Nelson-Plosser数据集。为响应和预测系列创建变量。
负载Data_NelsonPlosserX = DataTable {: PriorMdl.VarNames(2:结束)};y = DataTable {:,“GNPR”};
估计边际的后验分布
和
。返回评估汇总表。
rng (1);%的再现性[PosteriorMdl, ~, ~, ~, ~,总结]=估计(PriorMdl, X, y);
方法:吉布斯抽样数量与10000年吸引的观察:62年的预测数量:4 |意味着性病CI95积极分配- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -拦截| -23.9922 - 9.0520[-41.734,-6.198]0.005经验IPI | 4.3929 - 0.1458[4.101, 4.678] 1.000经验E | 0.0011 - 0.0003[0.000, 0.002] 0.999经验或者说是| 2.4711 - 0.3576[1.762,3.178]1.000经验Sigma2 | 46.7474 - 8.4550[33.099, 66.126] 1.000经验
PosteriorMdl是一个empiricalblm模型对象,因为边缘后验分布semiconjugate模型分析棘手,所以估计必须实现一个吉布斯采样器。总结是一个表包含估计和推断呢估计显示在命令行。
显示汇总表。
总结
总结表意味着Std = 5 x5 CI95积极分布_____ __________ ________________________ ________ _______拦截-23.992 9.052 -41.734 -6.1976 0.0053“实证”IPI 4.3929 0.14578 4.1011 4.6782 - 1的实证的E 0.0011124 0.00033976 0.00045128 0.0017883 0.9989“实证”或者说是2.4711 0.3576 1.7622 3.1781 1“实证”Sigma2 46.747 8.455 33.099 66.126 1“经验”
访问equi-tailed 95%可信区间的回归系数新闻学会。
:Summary.CI95 (2)
ans = 4.1011 - 4.6782
输入参数
输出参数
限制
如果PriorMdl是一个empiricalblm模型对象,那么你不能指定β或Sigma2。也就是说,您不能使用实证估计条件后验分布先验分布。
更多关于
提示
蒙特卡罗模拟是可能变更。也就是说,如果
估计使用蒙特卡罗模拟,那么当你叫估计和推断可能有所不同估计在看似同等条件下多次。复制估算结果,设置一个随机数种子使用rng在调用之前估计。如果
估计抛出一个错误估计后验分布时使用自定义模型之前,然后试着调整初始参数值使用BetaStart或Sigma2Start之前,或者尝试调整宣布日志功能,然后重构模型。错误可以表明日志的先验分布负在指定的初始值。
