火车回归模型使用Hyperparameter优化回归学习者应用
这个例子展示了如何使用hyperparameter优化回归合奏的曲子hyperparameters回归学习者应用。比较的测试集性能训练optimizable合奏,表现最好的预设整体模型。
在MATLAB®命令窗口,加载
carbig
数据集,创建一个表包含大部分的变量。负载carbigcartable =表(加速、气缸、位移,…马力,Model_Year、重量、起源、MPG);
回归学习者开放。单击应用程序选项卡,然后单击右侧的箭头应用程序画廊部分打开应用程序。在机器学习和深度的学习组中,单击回归的学习者。
在回归的学习者选项卡,文件部分中,选择新会话>从工作区。
新会话从工作区对话框中,选择
cartable
从数据集变量列表。应用程序选择和预测变量的响应。默认的响应变量英里/加仑
。默认的验证选项是5倍交叉验证,防止过度拟合。在测试部分,单击复选框留出一组测试数据,指定使用
15
进口数据的百分比作为测试集。接受的选项并继续,请单击开始会议。
培训所有预设整体模型。在回归的学习者选项卡,模型部分,单击箭头打开画廊。在乐团的树木组中,单击所有的集合体。在火车部分中,点击火车都并选择火车都。应用列车每个合奏模式类型之一,以及默认好树模型,并显示的模型模型窗格。
请注意
如果你有并行计算工具箱™,那么应用程序的使用并行默认按钮进行切换。你点击后火车都并选择火车都或选择火车应用程序打开一个平行的工人。在这段时间里,你不能与软件交互。池打开后,可以继续与应用程序交互,同时并行模型火车。
如果你没有并行计算工具箱,然后应用程序了使用背景培训复选框的火车都菜单默认选中。你选择一个选项来训练模型后,应用程序打开一个背景池。池打开后,可以继续与应用程序交互,同时在后台模型火车。
应用程序显示一个响应第一合奏情节模型(模型2.1)。蓝色的点是正确的价值观,和黄点预计值。的模型左边的面板显示了每个模型的验证RMSE。
请注意
验证了一些随机性的结果。你的模型验证结果可以从这个例子中所示的结果不同。
选择一个optimizable合奏训练模型。在回归的学习者选项卡,模型部分,单击箭头打开画廊。在乐团的树木组中,单击Optimizable合奏。
hyperparameters优化选择模型。在总结选项卡,您可以选择优化复选框的hyperparameters你想优化。默认情况下,所有的复选框被选中。在这个例子中,接受默认选项。
火车optimizable模型。在火车部分的回归的学习者选项卡上,单击火车都并选择选择火车。
这个应用程序显示一个最小均方误差图它运行的优化过程。在每个迭代中,应用程序尝试hyperparameter值的不同组合和更新情节与最小均方误差(MSE)验证迭代中观察到,在深蓝色的表示。当应用程序完成了优化过程,它选择的集合优化hyperparameters,红场表示。有关更多信息,请参见最小均方误差图。
应用程序列出了优化hyperparameters在优化结果部分情节和右边的Hyperparameters Optimizable整体模型模型的部分总结选项卡。
请注意
一般来说,优化的结果是无法复制的。
比较预设合奏训练模式训练optimizable模型。在模型窗格中,应用程序突出了最低的RMSE(验证)(验证根均方误差)阐述了它在一个盒子里。在这个例子中,训练optimizable合奏优于两个预设的模型。
一个训练有素的RMSE optimizable模型并不总是低于预设训练模型。如果不执行训练optimizable模型好,你可以得到更好的结果通过运行更长时间的优化。在回归的学习者选项卡,选项部分中,点击优化器。在对话框中,增加迭代价值。例如,您可以双击的默认值
30.
和输入一个值60
。然后单击保存和应用。创建选项将被应用到未来optimizable模型使用模型画廊。因为hyperparameter调优通常会导致overfitted模型,检查optimizable合奏的性能模型在测试集和比较的性能最好的预设整体模型。使用数据时留给测试数据导入到应用程序。
首先,在模型窗格中,单击旁边的星星图标袋装的树木模型和Optimizable合奏模型。
对于每一个模型,选择模型模型窗格。在测试部分的回归的学习者选项卡上,单击测试所有然后选择测试选择。应用计算测试集的性能模型训练其余的数据,即训练和验证数据。
根据测试集RMSE排序模型。在模型窗格中,打开排序列表并选择
RMSE(测试)
。在这个例子中,训练optimizable合奏仍优于预设模型在测试集上训练数据。更重要的是,测试集的验证RMSE RMSE堪比optimizable模型。