主要内容

车牌提取

概率主成分分析

描述

例子

多项式系数分数pcvar) =车牌提取(YK的主分量系数n——- - - - - -p数据矩阵Y基于一个概率主成分分析(车牌提取)。它还返回主成分分数,这是表示Y在主分量空间中,主分量方差,主分量方差是协方差矩阵的特征值Y,在pcvar

每一列的多项式系数包含一个主分量的系数,列是按分量方差降序排列的。行分数对应观察值,列对应组件。行Y对应观察值,列对应变量。

概率主成分分析可能比处理丢失数据的其他算法更可取,例如当任何数据向量有一个或多个丢失值时交替最小二乘算法。它假设数据集中的值是随机丢失的。对完整数据和缺失数据都使用期望最大化算法。

例子

多项式系数分数pcvar) =车牌提取(YK名称,值使用由一个或多个指定的特殊数据类型的计算和处理的附加选项返回主成分系数、分数和方差名称,值对参数。

例如,你可以引入残差的初值,v,或更改终止条件。

例子

多项式系数分数pcvarμ) =车牌提取(___也返回每个变量的估计平均值Y.您可以使用前面语法中的任何输入参数。

例子

多项式系数分数pcvarμv年代) =车牌提取(___的各向同性残差v最终结果在结构上趋同年代

例子

全部折叠

加载示例数据。

负载fisheriris

双矩阵由花上的四种测量值组成,分别是萼片和花瓣的长度和宽度。

随机引入缺失值。

y =量;rng (“默认”);%的再现性第九=随机(“unif”0 1大小(y)) < 0.20;y (ix) =南;

现在,大约有20%的数据丢失了,这是

执行概率主成分分析,要求成分系数和方差。

[多项式系数,分数,pcvarμ)=车牌提取(y, 3);多项式系数
多项式系数=4×30.3562 0.6709 -0.5518 -0.0765 0.7120 0.6332 0.8592 -0.1597 0.0596 0.3592 -0.1318 0.5395
pcvar
pcvar =3×14.0914 0.2125 0.0617

使用交替最小二乘算法进行主成分分析,要求主成分系数和方差。

[coeff2, score2 pcvar2 mu2] = pca (y,“算法”“als”...“NumComponents”3);coeff2
coeff2 =4×30.3376 0.4952 0.7406 -0.0731 0.8609 -0.4476 0.8657 -0.1168 -0.1233 0.3623 -0.0086 -0.4857
pcvar2
pcvar2 =3×14.0733 0.2652 0.1222

前两个主成分的系数和方差是相似的。

另一种比较结果的方法是找出系数向量张成的两个空间之间的角度。

子空间(多项式系数,coeff2)
ans = 0.0884

这两个空间之间的角度非常小。这表明这两个结果是相近的。

加载示例数据集。

负载进口- 85

数据矩阵X在列3至15中有13个连续变量:轮距、长度、宽度、高度、限重、发动机尺寸、内径、冲程、压缩比、马力、峰值rpm、城市英里数和公路英里数。在第56行到第59行,内径和冲程变量少了4个值,在第131行和132行,马力和峰值转速变量少了2个值。

执行概率主成分分析并显示前三个主成分。

[多项式系数,分数,pcvar] =车牌提取(X (:, 3:15), 3);
警告:达到最大迭代次数1000。

将成本函数的终止公差更改为0.01。

选择= statset (“车牌提取”);opt.TolFun = 0.01;

执行概率主成分分析。

[多项式系数,得分,pcvar] =车牌提取(X (:, 3:15), 3,“选项”、选择);
警告:达到最大迭代次数1000。

车牌提取现在在达到最大迭代次数之前终止,因为它满足代价函数的容忍度。

加载示例数据。

负载哈尔德y =成分;

成分数据有4个变量的13个观察值。

向数据中引入缺失的值。

y(16:结束)=南;

每16个值是.这相当于7.69%的数据。

利用PPCA找到数据的前三个主成分,并显示重建的观测结果。

[多项式系数,分数,pcvar、μv, S] =车牌提取(y, 3);
警告:达到最大迭代次数1000。
S.Recon
ans =13×46.8536 25.8700 5.8389 59.8730 1.0433 28.9710 14.9654 51.9738 11.5770 56.5067 8.6352 20.5076 11.0835 31.0722 8.0920 47.0748 7.0679 52.2556 6.0748 33.0598 11.0486 55.0430 9.0534 22.0423 2.8493 70.8691 16.8339 5.8656 1.0333 31.0281 19.6907 44.0306 2.0400 54.0354 18.0440 22.0349 20.7822 3.7603 25.8081⋮

您还可以使用主成分和估计的平均值重建观测值。

T = score*coeff' + repmat(mu,13,1);

加载数据。

负载哈尔德

在这里,成分是预测变量的实值矩阵。

执行概率主成分分析和显示系数。

[多项式系数,分数,pcvariance、μv, S] =车牌提取(成分,3);
警告:达到最大迭代次数1000。
多项式系数
多项式系数=4×3-0.0693 -0.6459 0.5673 -0.6786 -0.0184 -0.5440 0.0308 0.7552 0.4036 0.7306 -0.1102 -0.4684

在PPCA收敛时显示算法结果。

年代
S =结构体字段:W: [4x3 double] Xexp: [13x3 double] Recon: [13x4 double] v: 0.2372 NumIter: 1000 RMSResid: 0.2340 nloglk: 149.3388

显示矩阵W

白雪
ans =4×30.5624 2.0279 5.4075 4.8320 -10.3894 5.9202 -3.7521 -3.0555 -4.1552 -1.5144 11.7122 -7.2564

使正交化W恢复系数。

奥尔特(白雪)
ans =4×3-0.0693 0.6459 0.5673 0.6786 0.0184 -0.5440 0.0308 -0.7552 0.4036 0.7306 0.1102 -0.4684

输入参数

全部折叠

用于计算主要部件的输入数据,指定为n——- - - - - -p矩阵。行Y对应观察值,列对应变量。

数据类型:|

要返回的主组件的数量,指定为小于数据秩的整数值。最大可能等级为最小(np),n观察的次数是多少p为变量的个数。但是,如果数据是相关的,则排名可能小于min(np).

车牌提取根据组件的方差对组件进行排序。

如果K分钟(np),车牌提取K等于最小值(np) - 1,和“W0”被截断为最小值(pn) - 1列如果你指定ap——- - - - - -pW0矩阵。

例如,您可以根据下面的组件方差只请求前三个组件。

例子:多项式系数=车牌提取(Y, 3)

数据类型:|

名称-值参数

指定可选的逗号分隔的对名称,值参数。的名字参数名和价值为对应值。的名字必须出现在引号内。可以以任意顺序指定多个名称和值对参数Name1, Value1,…,的家

例子:“W0”,初始化,“选项”,选择的初始值“W0”在矩阵初始化车牌提取使用定义的选项选择

初始值的W概率主成分分析算法,指定为逗号分隔的对,由“W0”和一个p——- - - - - -k矩阵。

数据类型:|

残差方差的初始值,指定为逗号分隔对,由“半”和一个正标量值。

数据类型:|

迭代的选项,以逗号分隔的对指定“选项”一个由statset函数。车牌提取在选项结构中使用下列字段。

“显示” 显示输出电平。的选择是“关闭”“最后一次”,“通路”
“麦克斯特” 允许的最大步数。默认值是1000。与优化设置不同,达到麦克斯特值被视为收敛。
“TolFun” 正整数,表示代价函数的终止容限。默认为1e-6。
“TolX” 表示元素相对变化的收敛阈值的正整数W.默认为1e-6。

中可以更改这些字段的值并指定新的结构车牌提取使用“选项”名称-值对的论点。

例子:选择= statset(车牌提取);opt.MaxIter = 2000;多项式系数=车牌提取(Y, 3,“选项”,选择);

数据类型:结构体

输出参数

全部折叠

主成分系数,返回为ap——- - - - - -k矩阵。每一列的多项式系数包含一个主成分的系数。这些列是按分量方差下降的顺序排列的,pcvar

主成分分数,返回为n——- - - - - -k矩阵。行分数对应观察值,列对应组件。

的协方差矩阵的特征值Y,作为列向量返回。

中每个变量的估计均值Y,作为行向量返回。

各向同性剩余方差,返回为标量值。

在收敛时的最终结果,作为包含以下字段的结构返回。

W W在收敛。
Xexp 估计的潜在变量的条件期望x
侦察 重建观察使用k主要组件。这是输入数据的低维近似值Y,等于μ+分数多项式系数的
v 剩余方差。
RMSResid 残差的均方根。
NumIter 迭代计数的数量。
nloglk 负对数似然函数值。

更多关于

全部折叠

概率主成分分析

概率主成分分析(PPCA)是在任意数据向量有一个或多个缺失值时估计主轴的一种方法。

PPCA基于各向同性误差模型。它试图联系p维观测向量y到相应的k-潜在(或未观察到的)变量的维度向量x,为正态分布,均值为零,协方差I(k).的关系是

y T W x T + μ + ε

在哪里y为观测变量的行向量,x是潜变量的行向量,和ε为各向同性误差项。ε高斯函数的均值是0,协方差是v*我(k),v为残差方差。在这里,k需要小于秩才能使残差大于0 (v> 0)。标准主成分分析,其中残差为零,是PPCA的极限情况。观察到的变量,y,在给定潜在变量值的条件下是独立的,x.潜在性变量解释了观测变量之间的相关性而误差解释了特定变量特有的可变性y.的p——- - - - - -k矩阵W联系潜在变量和观察变量,以及向量μ允许模型具有非零均值。PPCA假设数据集中的值是随机丢失的。这意味着数据值是否丢失并不取决于给定的观测数据值的潜在变量。

在这种模式下,

y ~ N μ W W T + v k

没有封闭的解析解Wv,因此它们的估计是通过使用期望最大化(EM)算法对相应的对数似然进行迭代最大化来确定的。这个EM算法通过将缺失的值作为附加的潜在变量来处理。在收敛时,列W张成子空间,但它们不是标准正交的。车牌提取得到标准正交系数,多项式系数的正交化的分量W

参考文献

[1]给小费,m.e.和c.m.毕晓普。概率主成分分析。皇家统计学会杂志。B辑(统计方法论),第61卷第3期,1999年,第611-622页。

[2] Roweis, S. " PCA和SPCA的EM算法"《1997年神经信息处理系统进展会议论文集》.第10卷(NIPS 1997),马萨诸塞州剑桥,美国:麻省理工学院出版社,1998年,第626-632页。

伊林·A·赖科和t·赖科。缺失值存在时主成分分析的实用方法j·马赫。学习。Res。.第11卷,2010年8月,1957-2000页。

介绍了R2013a