此示例显示如何使用回归学习者应用程序创建和比较各种回归树,并将培训的模型导出到工作区以对新数据进行预测。
您可以培训回归树以预测对给定输入数据的响应。要预测回归树的响应,请按照从根(开头)节点的树下来到叶节点。在每个节点上,使用与该节点相关联的规则决定要遵循哪个分支。继续,直到您到达叶节点。预测的响应是与该叶节点相关联的值。
统计和机器学习工具箱™树是二进制的。预测中的每个步骤涉及检查一个预测变量的值。例如,这是一个简单的回归树:
这棵树根据两个预测器来预测反应,x1
和x2
.要预测,从最上面的节点开始。在每个节点上,检查预测器的值,以决定遵循哪个分支。当分支到达叶节点时,响应被设置为对应于该节点的值。
本示例使用carbig
数据集。该数据集包含了从1970年到1982年生产的不同车型的特征,包括:
加速
气缸数量
发动机排量
发动机功率(马力)
模型一年
重量
原产国
每加仑英里(MPG)
火车回归树以预测每加仑汽车模型的燃料经济性,给予其他变量作为输入。
在MATLAB®,加载carbig
数据集并创建一个包含不同变量的表:
负载carbigCartable =桌子(加速,气缸,位移,...马力,Model_Year、重量、起源、MPG);
在应用程序标签,在机器学习和深度学习组中,单击回归学习者.
在回归学习者标签,在文件部分中,选择新会话>从工作区.
下数据集变量在“从工作区”对话框的“新会话”中,选择cartable
从工作区中的表和矩阵列表中获取。
观察应用程序有预先选择的响应和预测变量。英里/加仑
作为响应,而所有其他变量作为预测器。对于本例,不要更改选择。
要接受默认验证方案并继续,请单击开始课程.默认的验证选项是交叉验证,以防止过拟合。
回归学习器创建响应图,记录号在x设在。
使用响应图来研究哪些变量对预测响应有用。为了可视化不同预测因素和反应之间的关系,选择中不同的变量X列表下轴.
观察哪些变量与响应最明显相关。位移
,马力
, 和重量
所有这些都对反应有清晰可见的影响,并且都与反应呈负相关。
选择变量起源
下轴.自动显示一个盒子图。盒子图显示了响应和任何可能的异常值的典型值。当绘制标记导致许多点重叠时,盒子图很有用。在变量上显示一个盒子图x-axis很少有唯一的值,在风格中,选择箱线图.
创建一个回归树的选择。在回归学习者标签,在模型类型部分中,点击所有的树木.
然后单击火车.
提示
如果您有并行计算工具箱™,您可以培训所有型号(所有的树木)同时选择使用并行按钮培训节之前点击火车.你点击后火车,打开“打开并行池”对话框将打开并保持打开,而该应用程序打开并行工人池。在此期间,您无法与软件进行互动。池打开后,应用程序同时列出模型。
回归学习者创建并训练三棵回归树好树, 一种中等树和一个粗树.
这三个模型出现在模型窗格。检查RMSE(验证)(验证均方根误差)。最好的分数在方框中高亮显示。
的好树和中等树有类似的rmse,而粗树不太准确的。
回归学习者绘制真正的训练响应和第一个模型的预测响应(型号1.1)。
请注意
如果您正在使用验证,则结果包含一些随机性。因此,您的模型验证得分可能与显示的结果不同。
选择一个模型模型窗格以查看该模型的结果。例如,选择中等树模型(1.2)。在回归学习者标签,在情节段,单击箭头以打开图库,然后单击回复在里面验证结果组。下轴中,选择马力
并检查响应图。真实的和预测的反应现在都画出来了。显示预测误差,在预测和真实响应之间画成竖线,通过选择错误复选框。
查看当前选择模型的详细信息当前模型的总结窗格。检查并比较额外的模型特征,例如R线(确定系数),MAE(平均绝对误差)和预测速度。想要了解更多,请看查看和比较模型统计.在当前模型的总结窗格,您还可以在当前所选型号类型上找到详细信息,例如用于培训模型的选项。
绘制预测反应和真实反应的曲线。在回归学习者标签,在情节段,单击箭头以打开图库,然后单击预测与实际(验证)在里面验证结果组。使用这个图来理解回归模型对不同响应值的预测有多好。
完美的回归模型已经预测了等于真实响应的响应,因此所有点都位于对角线上。从线到任何点的垂直距离是该点预测的误差。一个好的模型有很小的错误,因此预测散布在线附近。通常,良好的模型在对角线周围大致对称地散射。如果您可以在绘图中看到任何清晰的模式,您可能会改善您的模型。
中选择其他模型模型窗格,打开每个模型的预测与实际图,然后比较结果。重新安排情节的布局,以便更好地比较情节。单击Document Actions箭头位于模型绘图选项卡的最右侧。选择瓷砖都
选项并指定一个1乘3的布局。单击隐藏情节选项按钮在图的右上角给图留出更多的空间。
要返回原始布局,您可以单击布局按钮情节部分并选择单一模式(默认).
在模型类型画廊,选择所有的树木一次。为了改进模型,尝试在模型中加入不同的特性。看看是否可以通过删除预测能力低的特征来改进模型。在回归学习者标签,在特性部分中,点击功能选择.
在“特性选择”对话框中,清除加速和气缸把他们排除在预测之外。点击好的.
点击火车使用新的预测器设置来训练新的回归树。
观察新模型模型窗格。这些模型与之前的回归树相同,但只使用了7个预测器中的5个。该应用程序显示使用了多少预测器。要检查使用了哪些预测器,请单击模型窗格,并观察“功能选择”对话框中的复选框。
去掉这两个特征的模型与使用所有预测器的模型表现相当。使用所有预测器的模型预测效果并不比仅使用其中一部分预测器更好。如果数据收集非常昂贵或困难,您可能更喜欢无需一些预测器就能令人满意地执行的模型。
训练三个回归树预设只用马力
作为一个预测。在“特性选择”对话框中更改选择,然后单击好的.然后单击火车.
仅使用发动机功率作为预测因素会导致模型精度较低。然而,这些模型的表现很好,因为它们只使用了一个预测器。有了这个简单的一维预测空间,粗树现在的表现与中等树和细树一样好。
选择最佳模型模型窗格并查看残差图。在回归学习者标签,在情节段,单击箭头以打开图库,然后单击残差(验证)在里面验证结果组。残差绘图显示预测和真实响应之间的差异。将残差显示为线图,在风格部分中,选择行.
下轴,选择要在上面绘图的变量x设在。选择真实响应,预测响应,记录编号或您的预测器之一。
通常一个好的模型的残差大致对称地散布在0附近。如果您能在残差中看到任何清晰的模式,那么您就有可能改进您的模型。
要了解模型设置,请选择最佳模型模型窗格并查看高级设置。中不可优化的模型选项模型类型图库是预置的起点,您可以更改其他设置。在回归学习者标签,在模型类型部分中,点击先进的.比较不同的回归树模型模型窗格,并在“高级回归树选项”对话框中观察差异。的最小叶片尺寸设置控制树叶的大小,并通过树叶控制回归树的大小和深度。
为了进一步改进模型,改变最小叶片尺寸设置为8并单击好的.然后通过点击训练一个新模型火车.
控件中的选定训练模型的设置当前模型的总结窗格或“高级回归树选项”对话框中。
要了解更多关于回归树设置的信息,请参见回归树.
您可以将所选模型的完整或紧凑版本导出到工作区。在回归学习者标签,在出口部分中,点击出口模式和选择出口模式或者出口紧凑的模型.在“导出模型”对话框中,单击好的接受默认变量名称trainedModel
.
要查看有关结果的信息,请查看命令窗口。
使用导出的模型对新数据进行预测。例如,预测cartable
在工作区中输入数据:
yfit = trainedModel.predictFcn (cartable)
yfit
包含每个数据点的预测响应。如果你想用新数据自动训练相同的模型,或者学习如何以编程方式训练回归模型,你可以从应用程序中生成代码回归学习者标签,在出口部分中,点击生成函数.
该应用程序从模型生成代码,并在MATLAB编辑器中显示该文件。想要了解更多,请看生成MATLAB代码训练模型与新数据.
提示
使用与本例相同的工作流来评估和比较您可以在回归学习者中训练的其他回归模型类型。
训练所有可用的非最优回归模型预置:
在最右边模型类型部分中,单击箭头以展开回归模型列表。
点击全部,然后单击火车.
要了解其他回归模型类型,请参阅回归学习者的火车回归模型.