主要内容gydF4y2Ba

规范化gydF4y2Ba

找到权重以最小化再替换误差加上惩罚项gydF4y2Ba

语法gydF4y2Ba

ens1=正则化(ens)gydF4y2Ba
ens1=规则化(ens、名称、值)gydF4y2Ba

描述gydF4y2Ba

ens1gydF4y2Ba=正规化(gydF4y2Ba恩斯gydF4y2Ba)gydF4y2Ba在中为学习者找到最佳权重gydF4y2Ba恩斯gydF4y2Ba通过套索正则化。gydF4y2Ba规范化gydF4y2Ba返回与相同的回归集合gydF4y2Ba恩斯gydF4y2Ba,但有一个gydF4y2Ba正规化gydF4y2Ba财产。gydF4y2Ba

ens1gydF4y2Ba=正规化(gydF4y2Ba恩斯gydF4y2Ba,gydF4y2Ba名称、值gydF4y2Ba)gydF4y2Ba使用一个或多个指定的附加选项计算最佳权重gydF4y2Ba名称、值gydF4y2Ba成对参数。您可以按以下任意顺序指定多个名称-值对参数:gydF4y2Ba名称1,值1,…,名称,值gydF4y2Ba.gydF4y2Ba

输入参数gydF4y2Ba

恩斯gydF4y2Ba

回归集合,由gydF4y2BafitrensemblegydF4y2Ba.gydF4y2Ba

名称-值对参数gydF4y2Ba

指定可选的逗号分隔的字符对gydF4y2Ba名称、值gydF4y2Ba论据。gydF4y2Ba名字gydF4y2Ba是参数名和gydF4y2Ba价值gydF4y2Ba是对应的值。gydF4y2Ba名字gydF4y2Ba必须出现在引号内。您可以按任意顺序指定多个名称和值对参数,如下所示:gydF4y2Ba名称1,值1,…,名称,值gydF4y2Ba.gydF4y2Ba

“拉姆达”gydF4y2Ba

套索的非负正则化参数值向量。对于的默认设置gydF4y2Ba兰姆达gydF4y2Ba,gydF4y2Ba规范化gydF4y2Ba计算最小值gydF4y2Balambda_maxgydF4y2Ba学习者的所有最佳权重均为gydF4y2Ba0gydF4y2Ba。的默认值gydF4y2Ba兰姆达gydF4y2Ba向量包括gydF4y2Ba0gydF4y2Ba和九个指数间隔的数字gydF4y2Balambda_最大值/1000gydF4y2Ba到gydF4y2Balambda_maxgydF4y2Ba.gydF4y2Ba

违约:gydF4y2Ba[0日志空间(log10(lambda_max/1000),log10(lambda_max),9)]gydF4y2Ba

“MaxIter”gydF4y2Ba

允许的最大迭代次数,指定为正整数。如果算法执行gydF4y2Ba马克西特gydF4y2Ba在达到收敛容差之前进行迭代,然后函数停止迭代并返回警告消息。在以下情况下,该函数可以返回多个警告:gydF4y2BanpassgydF4y2Ba或者gydF4y2Ba兰姆达gydF4y2Ba值大于1。gydF4y2Ba

违约:gydF4y2Ba1e3gydF4y2Ba

“npass”gydF4y2Ba

套索优化的最大通过次数,一个正整数。gydF4y2Ba

违约:gydF4y2Ba10gydF4y2Ba

“雷托”gydF4y2Ba

lasso正则化损失的相对容差,一个数值正标量。gydF4y2Ba

违约:gydF4y2Ba1e-3gydF4y2Ba

“冗长”gydF4y2Ba

详细程度,或者gydF4y2Ba0gydF4y2Ba或gydF4y2Ba1gydF4y2Ba.当设置为gydF4y2Ba1gydF4y2Ba,gydF4y2Ba规范化gydF4y2Ba在运行时显示更多信息。gydF4y2Ba

违约:gydF4y2Ba0gydF4y2Ba

输出参数gydF4y2Ba

ens1gydF4y2Ba

回归组合。通常是你设定的gydF4y2Baens1gydF4y2Ba与…同名gydF4y2Ba恩斯gydF4y2Ba.gydF4y2Ba

例子gydF4y2Ba

全部展开gydF4y2Ba

使套袋树木的集合正规化。gydF4y2Ba

生成样本数据。gydF4y2Ba

rng(10,gydF4y2Ba“龙卷风”gydF4y2Ba)gydF4y2Ba%为了再现性gydF4y2BaX=rand(2000,20);Y=repmat(-12000,1);Y(sum(X(:,1:5),2)>2.5)=1;gydF4y2Ba

您可以从样本数据创建一个包含300棵树的袋装分类集合。gydF4y2Ba

袋子=配件组件(X,Y,gydF4y2Ba“方法”gydF4y2Ba,gydF4y2Ba“包”gydF4y2Ba,gydF4y2Ba“NumLearningCycles”gydF4y2Ba,300);gydF4y2Ba

fitrensemblegydF4y2Ba使用默认模板树对象gydF4y2Ba模板树()gydF4y2Ba作为一个弱的学习者gydF4y2Ba“方法”gydF4y2Ba是gydF4y2Ba“包”gydF4y2Ba.在本示例中,为了再现性,请指定gydF4y2Ba“可复制”,没错gydF4y2Ba创建树模板对象,然后将该对象用作弱学习器时。gydF4y2Ba

t=模板树(gydF4y2Ba“可复制”gydF4y2Ba,对);gydF4y2Ba%随机预测选择的再现性gydF4y2Ba袋子=配件组件(X,Y,gydF4y2Ba“方法”gydF4y2Ba,gydF4y2Ba“包”gydF4y2Ba,gydF4y2Ba“NumLearningCycles”gydF4y2Ba,300,gydF4y2Ba“学习者”gydF4y2Ba,t);gydF4y2Ba

调整套袋回归树的集合。gydF4y2Ba

袋=规范化(袋,gydF4y2Ba“拉姆达”gydF4y2Ba,[0.001 0.1],gydF4y2Ba“冗长”gydF4y2Ba,1);gydF4y2Ba
Lambda=0.001时开始套索最小化。初始MSE=0.109923。Lambda的套索最小化完成通过1=0.001 MSE=0.086912 MSE的相对变化=0.264768非零权重的学习者数量=15 Lambda的套索最小化完成通过2=0.001 MSE=0.0670602 MSE的相对变化=0.296029非零权重的学习者数量=34 Lasso最小化完成通过3 Lambda=0.001MSE=0.0623931 MSE的相对变化=0.0748019非零权重学习者人数=51 Lasso最小化完成通过4 Lambda=0.001 MSE=0.0605444 MSE的相对变化=0.0305348非零权重学习者人数=70 Lasso最小化完成通过5 Lambda=0.001 MSE=0.0599666 MSE的相对变化=0.00963517非零权重学习者人数=94 Lasso最小化完成通过6 Lambda=0.001 MSE=0.0598835 MSE的相对变化=0.00138719非零权重学习者人数=105 Lasso最小化完成通过7 Lambda=0.001 MSE=0.0598608 MSE的相对变化=0.000379227非零权重学习者人数权重=113 Lasso最小化完成通过8 Lambda=0.001 MSE=0.0598586 MSE的相对变化=3.72856e-05非零权重的学习者数量=115 Lasso最小化完成通过9 Lambda=0.001 MSE=0.0598587 MSE的相对变化=6.42954e-07非零权重的学习者数量=115 Lasso最小化完成Lambda=0.001通过10 MSE=0.0598587 MSE的相对变化=4.53658e-08非零权重的学习者数量=115 Lambda=0.001完成套索最小化。再置换MSE从0.109923更改为0.0598587。学习者人数从300人减少到115人。Lambda=0.1时开始套索最小化。初始MSE=0.109923。Lambda的套索最小化完成过程1=0.1 MSE=0.104917 MSE的相对变化=0.0477191非零权重的学习者数量=12 Lambda的套索最小化完成过程2=0.1 MSE=0.0851031 MSE的相对变化=0.232821非零权重的学习者数量=30 Lasso最小化完成过程3 Lambda=0.1 MSE=0.081245 MSE的相对变化=0.0474877非零权重学习者数量=40 Lasso最小化完成通过4 Lambda=0.1 MSE=0.0796749 MSE的相对变化=0.0197067非零权重学习者数量=53 Lasso最小化完成通过5 Lambda=0.1 MSE=0.0788411 MSE的相对变化=0.0105746数量非零权重的学习者数量=64 Lasso最小化完成通过6 Lambda=0.1 MSE=0.0784959 MSE的相对变化=0.00439793非零权重的学习者数量=81 Lasso最小化完成通过7 Lambda=0.1 MSE=0.0784429 MSE的相对变化=0.000676468非零权重的学习者数量=88 LassoLambda=0.1 MSE=0.078447最小均方误差的相对变化=5.24449e-05非零权重的学习者人数=88 Lambda=0.1完成套索最小化。再置换MSE从0.109923更改为0.078447。学习者人数从300人减少到88人。gydF4y2Ba

规范化gydF4y2Ba报告其进展情况。gydF4y2Ba

检查生成的正则化结构。gydF4y2Ba

B.正规化gydF4y2Ba
ans=gydF4y2Ba带字段的结构:gydF4y2Ba方法:“套索”训练权重:[300x2双]λ:[1.0000e-03 0.1000]重置换MSE:[0.0599 0.0784]组合权重:@classreg.learning.combiner.WeightedSumgydF4y2Ba

检查正规化合奏中有多少学习者具有正权重。这些学习者包括在缩小的合奏中。gydF4y2Ba

总和(包、正则化、训练权重>0)gydF4y2Ba
ans=gydF4y2Ba1×2gydF4y2Ba115 88gydF4y2Ba

使用来自的权重收缩集合gydF4y2Baλ=0.1gydF4y2Ba.gydF4y2Ba

cmp=收缩(袋,gydF4y2Ba“权重列”gydF4y2Ba,2)gydF4y2Ba
cmp=CompactRegressionnSemble ResponseName:'Y'类别预测值:[]ResponseTransform:'none'NumTrained:88个属性、方法gydF4y2Ba

紧凑合奏包含gydF4y2Ba87gydF4y2Ba成员,少于原成员的1/3gydF4y2Ba300gydF4y2Ba.gydF4y2Ba

更多关于gydF4y2Ba

全部展开gydF4y2Ba

另见gydF4y2Ba

|gydF4y2Ba|gydF4y2Ba

话题gydF4y2Ba