主成分分析
原始数据的主成分分析
语法
描述
例子
数据集的主要组成部分
加载示例数据集。
负载哈尔德
成分数据有4个变量的13个观察值。
找到成分数据的主要成分。
多项式系数= pca(成分)
多项式系数=4×4-0.0678 -0.6460 0.5673 0.5062 -0.6785 -0.0200 -0.5440 0.4933 0.0290 0.7553 0.4036 0.5156 0.7309 -0.1085 -0.4684 0.4844
的行多项式系数包含四个成分变量的系数，它的列对应四个主成分。
存在缺失数据的PCA
当数据集中有缺失值时，找出主成分系数。
加载示例数据集。
负载进口- 85
数据矩阵X在列3至15中有13个连续变量:轮距、长度、宽度、高度、限重、发动机尺寸、内径、冲程、压缩比、马力、峰值rpm、城市英里数和公路英里数。在第56行到第59行，内径和冲程变量少了4个值，在第131行和132行，马力和峰值转速变量少了2个值。
执行主成分分析。
多项式系数= pca (X (:, 3:15));
默认情况下,主成分分析属性指定的操作“行”,“完成”名称-值对的论点。此选项将删除带有的观察值南值计算。行南S重新插入分数和tsquared在相应的位置，即第56到59行，第131行和第132行。
使用“成对”进行主成分分析。
多项式系数= pca (X (:, 3:15),“行”，“成对”）;
在这种情况下,主成分分析计算(我，j)元素的协方差矩阵使用的行没有南列中的值我或j的X．注意，得到的协方差矩阵可能不是正定的。此选项适用于算法主成分分析用的是特征值分解。如果你不指定算法，就像在这个例子中，主成分分析将它设置为“eig”．如果您需要“圣言”作为算法，用“成对”选项,然后主成分分析返回警告消息，将算法设置为“eig”和仍在继续。
如果你使用“行”,“所有”名称-值对的论点,主成分分析终止，因为该选项假定数据集中没有丢失的值。
多项式系数= pca (X (:, 3:15),“行”，“所有”）;
当'Rows'选项被设置为'all'时，原始数据包含NaN缺失值。可以考虑使用“complete”或“paired”选项。
加权主成分分析
在进行主成分分析时，使用逆变量方差作为权重。
加载示例数据集。
负载哈尔德
执行主成分分析，使用成分方差的倒数作为可变权重。
[wcoeff，~，潜在，~，解释]=pca（成分，．..“VariableWeights”，“方差”）
wcoeff =4×41.4180 -8.7743 -6.4411 4.8927 9.9863 2.5240 -3.8749 -4.0845 1.7196 9.1714 7.5529 3.2710 11.3273
潜在的=4×12.2357 1.5761 0.1866 0.0016
解释了=4×139.4017 4.6652 0.0406
注意系数矩阵，wcoeff，不是标准正交的。
计算标准正交系数矩阵。
系数= inv(diag(std(components)))* wcoeff
coefforth =4×40.4760 0.5090 0.6755 0.2411 0.5639 -0.4139 0.3144 0.6418 0.3941 0.6050 -0.6377 0.2685 0.5479 0.4512 0.1954 0.6767
检查新系数矩阵的标准正交性，coefforth．
coefforth * coefforth’
ans =4×41.0000 0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 -0.0000 0.0000
PCA使用ALS对缺失数据进行分析
当数据中有缺失值时，使用交替最小二乘(ALS)算法寻找主成分。
加载示例数据。
负载哈尔德
成分数据有4个变量的13个观察值。
使用ALS算法进行主成分分析，并显示主成分系数。
[多项式系数,分数,潜伏,tsquared解释]= pca(成分);多项式系数
多项式系数=4×4-0.0678 -0.6460 0.5673 0.5062 -0.6785 -0.0200 -0.5440 0.4933 0.0290 0.7553 0.4036 0.5156 0.7309 -0.1085 -0.4684 0.4844
随机引入缺失值。
y =成分;rng (“默认”）;%的再现性第九=随机(“unif”0 1大小(y)) < 0.30;y (ix) = NaN
y =13×47 26 6 NaN 1 29 15 52 NaN 8 20 11 31 NaN 47 7 52 6 33 NaN 55 NaN NaN 71 NaN 6 1 31 NaN 44 2 NaN 22 21 47 4 26⋮
大约30%的数据现在有缺失值，由南．
使用ALS算法进行主成分分析，并显示主成分系数。
[coeff1 score1,潜伏,tsquared,解释说,mu1] = pca (y,．..“算法”，“als”）;coeff1
coeff1 =4×4-0.0362 0.8215 -0.5252 0.2190 -0.6831 -0.0998 0.1828 0.6999 0.0169 0.5575 0.8215 -0.1185 0.7292 -0.0657 0.1261 0.6694
显示估计的平均值。
mu1
mu1 =1×48.9956 47.9088 9.0451 28.5515
重建观测数据。
T = score1*coeff1' + repmat(mu1,13,1)
t =13×47.0000 26.0000 6.0000 51.5250 1.0000 29.0000 15.0000 52.0000 10.7819 53.0230 8.0000 20.0000 11.0000 31.0000 13.5500 47.0000 7.0000 52.0000 6.0000 33.0000 10.4818 55.0000 7.8328 17.9362 3.0982 71.0000 11.9491 6.0000 1.0000 31.0000 -0.5161 44.0000 2.0000 53.7914 5.7710 22.0000 21.0000 47.0000 4.0000 4.0000 26.0000⋮
ALS算法估计数据中的缺失值。
另一种比较结果的方法是找出系数向量张成的两个空间之间的角度。使用ALS找出为完整数据找到的系数与缺失值数据之间的角度。
子空间(多项式系数,coeff1)
ans = 6.1030 e-16
这是个小值。它表明结果，如果你使用主成分分析与“行”,“完成”名称-值对参数，如果没有丢失的数据，并且使用主成分分析与“算法”、“als”当缺少数据时，名称-值对参数彼此接近。
使用。执行主成分分析“行”,“完成”名称-值对参数并显示组件系数。
[coeff2 score2,潜伏,tsquared,解释说,mu2] = pca (y,．..“行”，“完成”）;coeff2
coeff2 =4×30.2054 0.8587 0.0492 0.6694 0.3720 0.5510 0.1474 0.3513 -0.5187 0.6986 -0.0298 0.6518
在这种情况下,主成分分析删除缺少值的行y只有四行没有丢失值。主成分分析只返回三个主要组件。你不能使用“行”,“成对”选项，因为协方差矩阵不是正的半定的主成分分析返回错误消息。
使用列表删除(当)找到完整数据和缺失值数据之间的系数“行”,“完成”）．
子空间(多项式系数(:1:3),coeff2)
ans = 0.3576
两个空间之间的角度要大得多。这表明这两个结果是不同的。
显示估计的平均值。
mu2
mu2 =1×49.8750 29.6000
这里的均值就是样本均值y．
重建观测数据。
score2 * coeff2’
ans =13×4南南南南南南南南南南南南-0.5644 5.3213 -3.3432 3.6040南南南南南南南南南南南南南南南南南12.8315 -0.1076 -6.3333 -3.7758⋮
这表明删除的行包含南值的工作效果不如ALS算法。当数据中有太多缺失值时，使用渐冻人(ALS)会更好。
主成分系数、分数和方差
找出主成分的系数、分数和方差。
加载示例数据集。
负载哈尔德
成分数据有4个变量的13个观察值。
找出成分数据的主成分系数、分数和成分的方差。
[多项式系数,分数,潜伏]= pca(成分)
多项式系数=4×4-0.0678 -0.6460 0.5673 0.5062 -0.6785 -0.0200 -0.5440 0.4933 0.0290 0.7553 0.4036 0.5156 0.7309 -0.1085 -0.4684 0.4844
分数=13×436.8218 -6.8709 -4.5909 0.3967 29.6073 4.6109 -2.2476 -0.3958 -12.9818 -4.2049 0.9022 -1.1261 23.7147 -6.6341 1.8547 -0.3786 -0.5532 -4.4617 -6.0874 0.1424 -10.8125 -3.6466 0.9130 -0.1350 -32.5882 8.9798 -1.6063 0.0818 22.6064 10.7259 0.3265 -9.2626 8.9854 -0.0169 -3.2840 -14.1573 7.0465 0.3405⋮
潜在的=4×1517.7969 67.4964 12.4054 0.2372
每一列的分数对应一个主分量。这个向量,潜在的，存储四个主成分的方差。
重构中心成分数据。
Xcentered =分数*多项式系数的
Xcentered =13×4-0.4615 -22.1538 -5.7692 30.000 -6.4615 -19.1538 3.2308 22.0000 3.5385 7.8462 -3.7692 -10.0000 3.5385 -17.1538 -3.7692 17.0000 -0.4615 3.8462 -2.7692 -8.0000 -4.4615 22.8462 5.2308 -24.0000 -6.4615 -17.1538 10.2308 14.0000 -5.4615 5.8462 -6.4615 -17.1538 13.5385 -1.1538 -7.7692 -4.0000⋮
新的数据Xcentered是从相应列中减去列均值的原始成分数据。
可视化每个变量的标准正交主成分系数和每个观察的主成分得分在一个单一的plot中。
biplot(多项式系数(:,1:2),“分数”分数(:1:2),“varlabels”，{“v_1”，“v_2”，“v_3”，“两者”}）;
在这个双图中，所有四个变量都由一个矢量表示，矢量的方向和长度表明了每个变量对图中的两个主分量的贡献。例如，横轴上的第一个主分量对第三和第四个变量具有正系数。因此,矢量 和 被引导到情节的右半部分。第一个主成分中系数最大的是第四个，对应于变量 ．
第二个主分量在纵轴上，变量的系数为负 ， , ，变量的系数为正 ．
这个二维双图还包括13个观测值中的每个点，坐标表示每个观测值在图中的两个主要成分。例如，靠近图左边缘的点的第一个主成分得分最低。这些点是根据最大得分值和最大系数长度进行缩放的，因此只能从图中确定它们的相对位置。
t方统计
找到霍特林的t平方统计值。
加载示例数据集。
负载哈尔德
成分数据有4个变量的13个观察值。
执行主成分分析并请求t平方值。
[多项式系数,分数,潜伏,tsquared] = pca(成分);tsquared
tsquared =13×15.6803 3.0758 6.0002 2.6198 3.3681 0.5668 3.4818 3.9794 2.6086 7.4818⋮
只请求前两个主成分，并在请求主成分的缩减空间中计算t平方值。
[多项式系数,分数,潜伏,tsquared] = pca(成分,“NumComponents”2);tsquared
tsquared =13×15.6803 3.0758 6.0002 2.6198 3.3681 0.5668 3.4818 3.9794 2.6086 7.4818⋮
注意，即使你指定了一个简化的分量空间，主成分分析计算整个空间的t平方值，使用所有四个分量。
约简空间中的t平方值对应于约简空间中的马氏距离。
tsqreduced =泰姬陵(得分,得分)
tsqreduced =13×13.3179 2.0079 0.5874 1.7382 0.2955 0.4228 3.2457 2.6914 1.3619 2.9903⋮
通过取全空间的t平方值与简化空间的马氏距离之差来计算废弃空间中的t平方值。
Tsqdiscarded = tsquared - tsqreduced
tsqdiscarded =13×12.3624 1.0679 5.4128 0.8816 3.0726 0.1440 0.2362 1.2880 1.2467 4.4915⋮
由主要成分解释的百分比变异性
找出由主成分解释的可变性百分比。在主组件空间中显示数据表示。
加载示例数据集。
负载进口- 85
数据矩阵X在列3至15中有13个连续变量:轮距、长度、宽度、高度、限重、发动机尺寸、内径、冲程、压缩比、马力、峰值rpm、城市英里数和公路英里数。
找出由这些变量的主要组成部分解释的可变性百分比。
[多项式系数,分数,潜伏,tsquared解释]= pca (X (:, 3:15));解释
解释了=13×164.3429 35.4484 0.1550 0.0379 0.0078 0.0048 0.0013 0.0011 0.0005 0.0002⋮
前三部分解释了99.95%的可变性。
在前三个主成分的空间中可视化数据表示。
scatter3(分数(:1),分数(:,2),得分(:,3)轴平等的包含(第一主成分的) ylabel (第二主成分的) zlabel (第三主成分的）
数据显示沿第一个主成分轴的变异性最大。这是第一个轴所有可能选项中最大的可能方差。沿第二个主成分轴的变异性在第二个轴的所有可能的剩余选择中是最大的。第三主成分轴具有第三大变异性，明显小于沿第二主成分轴的变异性。第四到第十三主成分轴不值得检查，因为它们只能解释数据中所有变异性的0.05%。
要跳过任何输出，可以使用～而是在相应的元素中。例如，如果你不想得到t平方值，指定
[多项式系数,分数,潜伏,~,解释]= pca (X (:, 3:15));
将PCA应用于新数据，生成C/ c++代码
找到一个数据集的主成分，并将PCA应用到另一个数据集。当您拥有机器学习模型的训练数据集和测试数据集时，此过程非常有用。例如，可以使用PCA对训练数据集进行预处理，然后训练模型。要使用测试数据集测试训练的模型，需要将训练数据获得的PCA转换应用到测试数据集。
这个例子还描述了如何生成C/ c++代码。因为主成分分析金宝app支持代码生成，您可以生成使用训练数据集执行PCA的代码，并将PCA应用于测试数据集。然后将代码部署到设备上。在这个工作流中，您必须通过训练数据，这些数据可能相当大。为了节省设备上的内存，您可以将训练和预测分开。使用主成分分析在MATLAB®中，并将PCA应用于设备上生成的代码中的新数据。
生成C/ c++代码需要MATLAB®Coder™。
对新数据应用PCA
使用。将数据集装入表中readtable．数据集在文件中CreditRating_Historical.dat，其中包含历史信用评级数据。
creditrating = readtable (“CreditRating_Historical.dat”）;creditrating (1:5,:)
ans =5×8表ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级 _____ _____ _____ _______ ________ _____ ________ _______ 62394 0.013 0.104 0.036 0.447 0.142 3{“BB”}48608 0.232 0.335 0.062 1.969 0.281 8 {A} 42444 0.311 0.367 0.074 1.935 0.366 1 {A} 48631 0.194 0.263 0.062 1.017 0.228 - 4 {BBB的}43768 0.121 0.413 0.057 3.647 0.466 12 {' AAA '}
第一列是每个观察的ID，最后一列是一个评级。指定第二到第七列作为预测器数据，并指定最后一列(评级)作为回应。
X = table2array (creditrating (: 2:7));Y = creditrating.Rating;
将前100个观察数据作为测试数据，其余的作为训练数据。
XTest = X (1:10 0,);XTrain = X(101年:,);欧美= Y (1:10 0);YTrain = Y(101:结束);
找出训练数据集的主成分XTrain．
[多项式系数,scoreTrain, ~, ~,解释说,μ)= pca (XTrain);
这段代码返回四个输出:多项式系数，scoreTrain，解释,μ．使用解释(被解释的总变异的百分比)，以找出解释至少95%变异所需的成分数目。使用多项式系数(主成分系数)和μ(估计的方法XTrain)将主成分分析应用于测试数据集。使用scoreTrain(主成分分数)而不是XTrain当你训练一个模特的时候。
显示由主要成分解释的百分比变异性。
解释
解释了=6×158.2614 41.2606 0.3875 0.0632 0.0269 0.0005
前两个部分解释了95%以上的可变性。找出解释至少95%可变性所需的组件数量。
idx =找到(cumsum(解释)> 95,1)
idx = 2
使用前两个组件训练分类树。
scoreTrain95 = scoreTrain (:, 1: idx);mdl = fitctree (scoreTrain95 YTrain);
mdl是一个ClassificationTree模型。
要将训练好的模型用于测试集，需要使用训练数据集获得的PCA对测试数据集进行转换。通过减法得到测试数据集的主成分分数μ从XTest,乘以多项式系数．只有前两个部分的分数是必要的，所以使用前两个系数多项式系数(:1:idx)．
scoreTest95 = (XTest-mu) *多项式系数(:1:idx);
通过训练的模型mdl以及转换后的测试数据集scoreTest到预测函数预测测试集的评级。
scoreTest95 YTest_predicted =预测(mdl);
生成代码
生成代码，将PCA应用于数据，并使用训练过的模型预测评级。请注意，生成C/ c++代码需要MATLAB®Coder™。
将分类模型保存到文件中myMdl.mat通过使用saveLearnerForCoder．
saveLearnerForCoder (mdl“myMdl”）;
定义一个入口点函数名为myPCAPredict接受测试数据集(XTest)及PCA资料(多项式系数和μ)，并返回测试数据的评级。
添加% # codegen编译器指令(或pragma)到函数签名后的入口点函数，以指示您打算为MATLAB算法生成代码。添加此指令将指示MATLAB代码分析器帮助您诊断和修复在代码生成期间可能导致错误的违规。
函数标签= myPCAPredict (XTest、多项式系数μ)% # codegen%使用PCA变换数据scoreTest=bsxfun（@减号，XTest，mu）*系数；%负荷训练分类模型mdl = loadLearnerForCoder (“myMdl”）;%使用加载模型预测评级标签=预测(mdl scoreTest);
myPCAPredict将PCA应用于新数据使用多项式系数和μ，然后使用转换后的数据预测评级。这样，您就不需要通过训练数据，这些数据可能相当大。
注意:如果你点击这个页面右上角的按钮，并在MATLAB®中打开这个示例，那么MATLAB®将打开示例文件夹。这个文件夹包括入口点函数文件。
使用以下命令生成代码codegen(MATLAB编码器)．因为C和c++都是静态类型语言，所以必须在编译时确定入口点函数中所有变量的属性。要指定数据类型和精确的输入数组大小，通过使用arg游戏选择。如果在编译时观察值的数量未知，还可以使用coder.typeof(MATLAB编码器)．有关详细信息,请参见为代码生成指定可变大小参数．
codegenmyPCAPredictarg游戏{coder.typeof (XTest[正无穷,6],[1,0]),多项式系数(:,1:idx),μ}
代码生成成功。
codegen生成MEX函数myPCAPredict_mex与平台相关的扩展。
验证生成的代码。
YTest_predicted_mex = myPCAPredict_mex (XTest多项式系数(:1:idx),μ);isequal (YTest_predicted YTest_predicted_mex)
ans =逻辑1
isequal返回逻辑1 (真正的)，这意味着所有的输入都是相等的。比较证实了预测的函数mdl和myPCAPredict_mex函数返回相同的评级。
有关代码生成的更多信息，请参见代码生成简介和代码生成和分类学习程序．后者描述了如何使用Classification Learner应用程序执行PCA并训练模型，以及如何基于训练的模型生成C/ c++代码来预测新数据的标签。
输入参数
输出参数
更多关于
算法
的主成分分析函数强制使用符号约定，强制每个列中大小最大的元素系数是积极的。改变系数向量的符号并不改变它的意义。
工具书类
[1] Jolliffe, i.t。主成分分析．2002年第2版。
w·J·克扎诺夫斯基多元分析原理．牛津大学出版社，1988。
g.a. F. Seber多变量的观察．威利,1984年。
杰克逊，j.e.a。主要组件用户指南．威利,1988年。
[5] Roweis, S. " PCA和SPCA的EM算法"《1997年神经信息处理系统进展会议论文集》．第10卷(NIPS 1997)，马萨诸塞州剑桥，美国:麻省理工学院出版社，1998年，第626-632页。
伊林·A·赖科和t·赖科。缺失值存在时主成分分析的实用方法j·马赫。学习。Res。．第11卷，2010年8月，1957-2000页。
扩展功能
你也可以从以下列表中选择一个网站:
