加载NLP数据集。

负载nlpdata

X是一个稀疏矩阵的预测数据,Y是一个分类向量类的标签。有两个以上的类的数据。

模型应该确定是否这个词项在一个web页面的统计和机器学习工具箱™文档。所以,确定对应的标签统计和机器学习的工具箱™文档web页面。

Ystats = Y = =“统计数据”;

火车一个二进制,线性分类模型,该模型可以确定这个词项在文档web页面是否从统计和机器学习工具箱™文档。指定坚持30%的观察。使用SpaRSA优化目标函数。

rng (1);%的再现性Ystats CVMdl = fitclinear (X,“规划求解”,“sparsa”,“坚持”,0.30);CMdl = CVMdl.Trained {1};

CVMdl是一个ClassificationPartitionedLinear模型。它包含属性训练有素的,这是一个1×1单元阵列举行ClassificationLinear使用训练集模型的软件培训。

从分区中提取的训练和测试数据的定义。

trainIdx =培训(CVMdl.Partition);testIdx =测试(CVMdl.Partition);

训练和测试样本估计的利润。

mTrain =利润率(CMdl X (trainIdx:), Ystats (trainIdx));太=利润率(CMdl X (testIdx:), Ystats (testIdx));

因为有一个正规化的力量CMdl,mTrain和太列向量的长度等于数量的训练和测试观察,分别。

情节两组边缘使用盒子情节。

图;箱线图([mTrain;太]、[0(大小(mTrain, 1), 1);(大小(mt, 1), 1)),…“标签”,{“训练集”,测试集的});甘氨胆酸h =;h。Yl我米=[-5 60]; title“训练和测试集利润”

分布之间的利润出现类似的训练集和测试集。

进行特征选择的方法之一是比较测试样本的利润率从多个模型。仅仅根据这一标准,分类器与更大的利润率是更好的分类器。

加载NLP的数据集,数据的预处理估计测试样本的利润率。

负载nlpdataYstats = Y = =“统计数据”;X = X ';rng (1);%的再现性

创建一个数据分区拥有30%的观察测试。

分区= cvpartition (Ystats,“坚持”,0.30);testIdx =测试(分区);%测试集指数XTest = X (:, testIdx);欧美= Ystats (testIdx);

分区是一个cvpartition对象定义了数据集的分区。

随机选择10%的预测变量。

p =大小(X, 1);%的预测数量idxPart = randsample (p,装天花板(0.1 * p));

火车两个二进制线性分类模型:一个使用所有的预测和一个使用随机的10%。使用SpaRSA优化目标函数,并表明,观察对应列。

Ystats CVMdl = fitclinear (X,“CVPartition”分区,“规划求解”,“sparsa”,…“ObservationsIn”,“列”);PCVMdl = fitclinear (X (idxPart:), Ystats,“CVPartition”分区,“规划求解”,“sparsa”,…“ObservationsIn”,“列”);

CVMdl和PCVMdl是ClassificationPartitionedLinear模型。

提取训练ClassificationLinear模型从旨在模型。

CMdl = CVMdl.Trained {1};PCMdl = PCVMdl.Trained {1};

估计每个分类器的测试样本的利润率。情节利润的分配集使用盒子情节。

fullMargins =利润率(CMdl XTest,欧美,“ObservationsIn”,“列”);partMargins =利润率(PCMdl XTest (idxPart:),欧美,…“ObservationsIn”,“列”);图;箱线图([fullMargins partMargins),“标签”,…{“所有预测”,“10%的预测”});甘氨胆酸h =;h。Yl我米=[-20 60]; title(测试样本的利润的)

的边缘分布CMdl位于高于利润分配PCMdl。

确定好lasso-penalty强度线性分类模型,使用逻辑回归的学习者,比较测试样本的分布的利润率。

加载NLP的数据集,数据的预处理估计测试样本的利润率。

负载nlpdataYstats = Y = =“统计数据”;X = X ';分区= cvpartition (Ystats,“坚持”,0.30);testIdx =测试(分区);XTest = X (:, testIdx);欧美= Ystats (testIdx);

创建一组11对数间隔正则化的优势 $$10^{-\; -\; -\; -\; -\; -8}$$通过 $$10^1$$。

λ= logspace (8 1 11);

火车二进制,线性分类模型,使用每一种正则化的优势。使用SpaRSA优化目标函数。降低目标函数的梯度的宽容1 e-8。

rng (10);%的再现性Ystats CVMdl = fitclinear (X,“ObservationsIn”,“列”,…“CVPartition”分区,“学习者”,“物流”,“规划求解”,“sparsa”,…“正规化”,“套索”,“λ”λ,“GradientTolerance”1 e-8)

CVMdl = ClassificationPartitionedLinear CrossValidatedModel:“线性”ResponseName:“Y”NumObservations: 31572 KFold: 1分区:[1 x1 cvpartition]类名:[0 1]ScoreTransform:“没有一个”属性,方法

提取训练线性分类模型。

Mdl = CVMdl.Trained {1}

Mdl = ClassificationLinear ResponseName:“Y”类名:[0 1]ScoreTransform:分对数的β:[34023 x11双]偏见:[-11.5378 -11.5378 -11.5378 -11.5378 -11.5378……λ:[1.0000 5.0119 6.3096 7.9433 e-08 e-08 e-07 e-06……学习者:“物流”属性,方法

Mdl是一个ClassificationLinear模型对象。因为λ是一个序列的正则化的优势,你能想到什么Mdl11岁的模型,每个正规化的力量在一个λ。

估计测试样本的利润率。

m =利润率(Mdl X (:, testIdx) Ystats (testIdx),“ObservationsIn”,“列”);尺寸(米)

ans =1×29471年11

因为有11个正规化的优势,米有11列。

绘制每个正规化的试样边缘的力量。因为逻辑回归的分数是在[0,1],利润在[1]。重新调节利润来帮助确定正则化力量最大化利润的网格。

图;箱线图(10000 m ^) ylabel (“取幂试样边缘的)包含(“λ指数”)

数的值λ压实附近产生边缘分布 $$10000^1$$。更高的λ值导致预测变量稀疏,这是一个很好的分类器的质量。

选择正则化强度发生在边缘分布的中心开始减少。

LambdaFinal =λ(5);

使用整个数据集训练线性分类模型,并指定所需的正则化的力量。

Ystats MdlFinal = fitclinear (X,“ObservationsIn”,“列”,…“学习者”,“物流”,“规划求解”,“sparsa”,“正规化”,“套索”,…“λ”,LambdaFinal);

为新观测估计标签,通过MdlFinal和新数据预测。