套索和弹性网- MATLAB和Simulink - MathWor金宝appks瑞士 - 金宝app,下载188bet金宝搏,金宝搏官方网站

套索和弹力网

套索是一种正则化技术。使用套索:

弹性网是一种相关技术。当你有几个高度相关的变量时，使用弹性网络。套索属性时提供弹性网络正则化α名称-值对严格介于一个数字之间0而且1．

有关回归集合的套索正则化，请参见规范．

Lasso是一种执行线性回归的正则化技术。Lasso包括一个惩罚项，限制估计系数的大小。因此，它类似于岭回归．套索是收缩估计量:它产生的系数估计偏小。然而，当你将套索估计器应用于新数据时，它比普通的最小二乘估计器具有更小的均方误差。

与山脊回归不同，随着惩罚项的增加，套索设置更多的系数为零。这意味着套索估计器是一个更小的模型，具有更少的预测因子。因此，套索是一种替代逐步回归以及其他模型选择和降维技术。

弹性网是一种相关技术。弹性网是脊回归和套索正则化的混合。像套索一样，弹性网可以通过生成零值系数来生成简化模型。实证研究表明，弹性网技术在预测因子高度相关的数据上优于套索。

的套索技术解决了这个正则化问题。对于给定的值λ，非负参数，套索解决问题

$\underset{β_{0} ， β}{最小值} （ \frac{1}{2 N} \sum_{我＝ 1}^{N} {（ y_{我} - β_{0} - x_{我}^{T} β ）}^{2} + λ \sum_{j ＝ 1}^{p} | β_{j} | ）．$

作为λ增加，非零组件的数目β减少。

套索问题涉及l¹规范的β，与弹性网算法相比。

的弹性网技术解决了这个正则化问题。对于一个α严格在0到1之间，而且是非负的λ弹性网解决了这一问题

$\underset{β_{0} ， β}{最小值} （ \frac{1}{2 N} \sum_{我＝ 1}^{N} {（ y_{我} - β_{0} - x_{我}^{T} β ）}^{2} + λ P_{α} （ β ）），$

在哪里

$P_{α} （ β ）＝ \frac{（ 1 - α ）}{2} {为 β 为}_{2}^{2} + α {为 β 为}_{1} ＝ \sum_{j ＝ 1}^{p} （ \frac{（ 1 - α ）}{2} β_{j}^{2} + α | β_{j} | ）．$

弹力网与套索时一样α= 1。作为α向0收缩，弹性网接近脊回归。对于其他值α，罚款期限P_α（β)在l¹规范的β平方l²规范的β．

[1]蒂布希拉尼，R。"通过套索回归收缩和选择"皇家统计学会杂志，B辑，第58卷，第1期，第267-288页，1996年。

邹市明，H.和T.黑斯蒂。"通过弹性网进行正则化和变量选择"皇家统计学会杂志B辑Vol. 67 No. 2, pp. 301-320, 2005。

[3]弗里德曼，J.， R.蒂布谢拉尼，T.黑斯蒂。通过坐标下降的广义线性模型的正则化路径。统计软件杂志，第33卷，2010年第1期https://www.jstatsoft.org/v33/i01

哈斯蒂、T.、R.蒂布谢拉尼和J.弗里德曼。统计学习的要素，第二版。施普林格，纽约，2008年。