加载NLP数据集。

负载nlpdata

X是一个稀疏矩阵的预测数据,Y是一个分类向量类的标签。有两个以上的类的数据。

模型应该确定是否这个词项在一个web页面的统计和机器学习工具箱™文档。所以,确定对应的标签统计和机器学习的工具箱™文档web页面。

Ystats = Y = =“统计数据”;

旨在一个二进制,线性分类模型,该模型可以确定是否这个词项在文档的web页面的统计和机器学习工具箱™文档。

rng (1);%的再现性Ystats CVMdl = fitclinear (X,“CrossVal”,“上”);

CVMdl是一个ClassificationPartitionedLinear模型。默认情况下,该软件实现了10倍交叉验证。你可以改变折叠使用的数量“KFold”名称-值对的论点。

估计的平均值out-of-fold边缘。

e = kfoldEdge (CVMdl)

e = 8.1243

或者,您可以获得per-fold边缘通过指定名称-值对“模式”,“个人”在kfoldEdge。

进行特征选择的方法之一是比较k倍边缘从多个模型。仅仅根据这一标准,最高的分类器边缘是最好的分类器。

加载NLP的数据集,数据的预处理估计k-Fold边缘交叉验证。

负载nlpdataYstats = Y = =“统计数据”;X = X ';

创建这两个数据集:

rng (1);%的再现性p =大小(X, 1);%的预测数量halfPredIdx = randsample (p,装天花板(0.5 * p));fullX = X;partX = X (halfPredIdx:);

旨在两个二进制线性分类模型:一个使用所有的预测和使用预测的一半。使用SpaRSA优化目标函数,并表明,观察对应列。

CVMdl = fitclinear (fullX Ystats,“CrossVal”,“上”,“规划求解”,“sparsa”,…“ObservationsIn”,“列”);PCVMdl = fitclinear (partX Ystats,“CrossVal”,“上”,“规划求解”,“sparsa”,…“ObservationsIn”,“列”);

CVMdl和PCVMdl是ClassificationPartitionedLinear模型。

估计k为每个分类器倍边缘。

fullEdge = kfoldEdge (CVMdl)

fullEdge = 16.5629

partEdge = kfoldEdge (PCVMdl)

partEdge = 13.9030

基于k倍边缘,使用的分类器的预测是更好的模型。

确定好lasso-penalty强度线性分类模型,使用逻辑回归的学习者,比较k-fold边缘。

加载NLP的数据集,数据的预处理估计k-Fold边缘交叉验证。

负载nlpdataYstats = Y = =“统计数据”;X = X ';

创建一组11对数间隔正则化的优势 $$10^{-\; -\; -\; -\; -\; -8}$$通过 $$10^1$$。

λ= logspace (8 1 11);

旨在一个二进制线性分类模型使用5倍交叉验证,使用每一种正则化的优势。使用SpaRSA优化目标函数。降低目标函数的梯度的宽容1 e-8。

rng (10);%的再现性Ystats CVMdl = fitclinear (X,“ObservationsIn”,“列”,“KFold”5,…“学习者”,“物流”,“规划求解”,“sparsa”,“正规化”,“套索”,…“λ”λ,“GradientTolerance”1 e-8)

CVMdl = ClassificationPartitionedLinear CrossValidatedModel:“线性”ResponseName:“Y”NumObservations: 31572 KFold: 5分区:[1 x1 cvpartition]类名:[0 1]ScoreTransform:“没有一个”属性,方法

CVMdl是一个ClassificationPartitionedLinear模型。因为fitclinear实现5倍交叉验证,CVMdl包含5ClassificationLinear火车在每个折叠模型软件。

估计每个折叠的边缘和正则化的力量。

eFolds = kfoldEdge (CVMdl,“模式”,“个人”)

eFolds =5×110.9958 0.9958 0.9958 0.9958 0.9958 0.9923 0.9770 0.9223 0.8446 0.8127 0.8127 0.9991 0.9991 0.9991 0.9991 0.9991 0.9939 0.9780 0.9166 0.8262 0.8128 0.8128 0.9992 0.9992 0.9992 0.9992 0.9992 0.9942 0.9781 0.9082 0.8258 0.8128 0.8128 0.9975 0.9975 0.9975 0.9975 0.9975 0.9931 0.9773 0.9103 0.8373 0.8130 0.8130 0.9976 0.9976 0.9976 0.9976 0.9976 0.9942 0.9782 0.9199 0.8351 0.8127 0.8127

eFolds是一个5-by-11矩阵的边缘。行对应于折叠和列对应于正则化优势λ。您可以使用eFolds识别ill-performing折叠,异常低的边缘。

估计平均优势所有折叠为每个正则化的力量。

e = kfoldEdge (CVMdl)

e =1×110.9979 0.9979 0.9979 0.9979 0.9979 0.9935 0.9777 0.9155 0.8338 0.8128 0.8128

了解的模型推广策划的平均每个正规化的5倍的优势力量。确定最大化的正则化强度的5倍网格所不具备的优势。

图;情节(log10(λ)log10 (e),“o”(~),maxEIdx] = max (e);maxLambda =λ(maxEIdx);持有在情节(log10 (maxLambda) log10 (e (maxEIdx)),“罗”);ylabel (“log_{10} 5倍边缘的)包含(“log_{10}λ的)传说(“边缘”,的最大优势)举行从

数的值λ收益率同样高的边缘。更高的λ值导致预测变量稀疏,这是一个很好的分类器的质量。

选择正则化边缘之前发生的强度开始下降。

LambdaFinal =λ(5);

使用整个数据集训练线性分类模型和指定正则化的力量LambdaFinal。

Ystats MdlFinal = fitclinear (X,“ObservationsIn”,“列”,…“学习者”,“物流”,“规划求解”,“sparsa”,“正规化”,“套索”,…“λ”,LambdaFinal);

为新观测估计标签,通过MdlFinal和新数据预测。