正则化技术用于防止预测模型中的统计过拟合。正则化算法通过在模型中加入额外的信息来处理多重共线性和冗余预测,使模型更简洁、准确。这些算法通常通过对复杂性施加惩罚来实现,比如将模型的系数添加到最小化中,或者包含粗糙度惩罚。
对于正则化很重要的技术和算法包括脊回归(也称为Tikhonov正则化)、lasso和弹性网络算法,以及跟踪图和交叉验证的均方误差。您还可以将Akaike Information Criteria (AIC)作为适合度度量。
有关正则化技术的更多信息,请参见统计和机器学习工具箱。