设计和运行实验以培训和比较深入学习网络
这实验经理App可以创建深度学习实验,在各种初始条件下训练网络,并比较结果。例如,您可以使用深度学习实验:
扫过一系列的封面计值或使用贝叶斯优化来查找最佳培训选项。贝叶斯优化需要统计和机器学习工具箱™。
使用内置功能Trainnetwork.
或定义自己的自定义培训函数。
比较使用不同的数据集或测试不同的深网络架构的结果。
要快速设置实验,您可以从预配置的模板开始。实验模板支持工作流程,包括图像分类,图像回归,序列金宝app分类,语义分段和自定义训练循环。
实验经理提供可视化工具,如培训图和混乱矩阵,过滤器以改进您的实验结果,以及记录您的观察的注释。为了提高再现性,每次运行实验时,实验经理都会存储实验定义的副本。您可以访问过去的实验定义,以跟踪产生每个结果的HyperParameter组合。
实验经理组织您的实验并产生了项目.
您可以在同一项目中存储多个实验。
每个实验包含一组结果每次运行实验。
每个结果集由一个或多个结果组成审判对应于超参数的不同组合。
默认情况下,实验管理器一次运行一项试验。如果您有并行计算工具箱™,则可以将实验配置为同时运行多项试验。并行运行实验允许您使用MATLAB®训练正在进行中。有关更多信息,请参阅使用实验经理并行培训网络.
这实验浏览器窗格显示项目中实验和结果的层次结构。例如,这个项目有两个实验,每个实验都有几组结果。
蓝色烧瓶表示使用该培训实验Trainnetwork.
函数。绿色烧杯指示依赖于不同训练功能的自定义训练实验。若要打开一个实验的配置并查看其结果,请双击该实验的名称或一组结果。
MATLAB TOOLSTRIP:在应用程序标签,下面机器学习和深度学习,单击“应用”图标。
matlab命令提示符:输入实验管理员
.
此示例显示如何通过扫描HyperParameters使用实验模板进行图像分类。使用此模板,您可以快速设置使用的内置培训实验Trainnetwork.
功能。有关使用实验管理器解决图像分类问题的更多示例,请参阅创建一个深入学习的分类实验和使用实验经理并行培训网络. 有关扫描超参数的替代策略的更多信息,请参阅利用贝叶斯优化优化实验超参数.
打开该示例以加载项目,使用预配置的实验,您可以检查和运行。打开实验,在实验浏览器窗格,双击实验的名称(实验1
)。
或者,您可以通过以下步骤自行配置实验。
1.开放实验经理。一个对话框提供与入门教程和最近的项目的链接,以及按钮以创建新项目或从文档中打开示例。
2.新的, 选择项目.一个对话框列出了几个支持工作流程的模板,包括图像分类,图像回归,序列分类,语义分段和金宝app自定义培训循环。
3.在图像分类实验, 选择通过扫描Quand参数进行图像分类.
4.指定新项目的名称和位置。实验经理在项目中开启了一个新的实验。这实验窗格显示定义实验的描述,超参数,设置功能和度量标准。
5.在里面描述字段,输入实验的描述:
数字分类,使用各种初始学习率。
6.普遍存在,更换值myinitiallearnrate.
和0.0025:0.0025:0.015
.验证战略被设置为详尽的扫描
.
7.下面设置函数, 点击编辑.安装函数在MATLAB编辑器中打开。Setup功能指定实验的培训数据,网络架构和培训选项。在该实验中,设置功能有三个部分。
运行实验时,实验经理培训由设置功能定义的网络六次。每次试验都使用HyperParameter表中指定的学习速率之一。默认情况下,实验管理器一次运行一项试验。如果您有并行计算工具箱,则可以同时运行多个试验。为了获得最佳结果,在运行实验之前,请启动一个并行池,与GPU一样多的工人。有关更多信息,请参阅使用实验经理并行培训网络和GPU通金宝app过发布支持(并行计算工具箱).
要在实验管理器工具系列上运行一个试验,请单击运行.
要同时运行多次试验,请单击使用并行接着运行.如果没有当前并行池,则实验管理器使用默认群集配置文件启动一个。实验经理然后执行多个同时试验,具体取决于可用的并行工作人员的数量。
结果表显示了每次试验的准确性和损失。
实验正在运行时,单击培训策划展示训练图,并跟踪每次试验的进度。您还可以在MATLAB命令窗口中监控训练进度。
点击混乱矩阵显示每个已完成的试用中的验证数据的混淆矩阵。
实验完成后,您可以通过使用列或过滤试验来对表进行排序过滤器窗格。您还可以通过向结果表添加注释来记录观察。有关更多信息,请参阅对实验结果进行排序、过滤和注释.
要测试单个试验的性能,导出培训的网络或审判的培训信息。在这一点实验经理ToolStrip,选择出口>训练有素的网络要么出口>培训信息, 分别。有关更多信息,请参阅网
和信息
.
关闭实验,在其中实验浏览器窗格中,右键单击项目的名称并选择关闭项目.实验经理关闭项目中包含的所有实验和结果。
这个例子展示了如何使用实验模板通过扫描超参数进行图像回归。使用此模板,您可以快速设置使用的内置培训实验Trainnetwork.
函数。有关使用实验经理解决回归问题的另一个例子,请参阅为回归创建深度学习实验. 有关扫描超参数的替代策略的更多信息,请参阅利用贝叶斯优化优化实验超参数.
打开该示例以加载项目,使用预配置的实验,您可以检查和运行。打开实验,在实验浏览器窗格,双击实验的名称(实验1
)。
或者,您可以通过以下步骤自行配置实验。
1.开放实验经理。一个对话框提供与入门教程和最近的项目的链接,以及按钮以创建新项目或从文档中打开示例。
2.新的, 选择项目.一个对话框列出了几个支持工作流程的模板,包括图像分类,图像回归,序列分类,语义分段和金宝app自定义培训循环。
3.在图像回归实验, 选择通过扫描Quand参数来回归.
4.指定新项目的名称和位置。实验经理在项目中开启了一个新的实验。这实验窗格显示定义实验的描述,超参数,设置功能和度量标准。
5.在里面描述字段,输入实验的描述:
回归预测数字的旋转角度,使用各种初始学习速率。
6.普遍存在,更换值myinitiallearnrate.
和0.001:0.001:0.006
.验证战略被设置为详尽的扫描
.
7.下面设置函数, 点击编辑.安装函数在MATLAB编辑器中打开。Setup功能指定实验的培训数据,网络架构和培训选项。在该实验中,设置功能有三个部分。
运行实验时,实验经理培训由设置功能定义的网络六次。每次试验都使用HyperParameter表中指定的学习速率之一。默认情况下,实验管理器一次运行一项试验。如果您有并行计算工具箱,则可以同时运行多个试验。为了获得最佳结果,在运行实验之前,请启动一个并行池,与GPU一样多的工人。有关更多信息,请参阅使用实验经理并行培训网络和GPU通金宝app过发布支持(并行计算工具箱).
要在实验管理器工具系列上运行一个试验,请单击运行.
要同时运行多次试验,请单击使用并行接着运行.如果没有当前并行池,则实验管理器使用默认群集配置文件启动一个。实验经理然后执行多个同时试验,具体取决于可用的并行工作人员的数量。
结果表显示了每次试验的均方根误差(RMSE)和损失。
实验正在运行时,单击培训策划展示训练图,并跟踪每次试验的进度。您还可以在MATLAB命令窗口中监控训练进度。
实验完成后,您可以通过使用列或过滤试验来对表进行排序过滤器窗格。您还可以通过向结果表添加注释来记录观察。有关更多信息,请参阅对实验结果进行排序、过滤和注释.
要测试单个试验的性能,导出培训的网络或审判的培训信息。在这一点实验经理ToolStrip,选择出口>训练有素的网络要么出口>培训信息, 分别。有关更多信息,请参阅网
和信息
.
关闭实验,在其中实验浏览器窗格中,右键单击项目的名称并选择关闭项目.实验经理关闭项目中包含的所有实验和结果。
此示例演示如何使用自定义训练循环使用训练实验模板进行图像分类。使用此模板,您可以快速设置自定义培训实验。
打开该示例以加载项目,使用预配置的实验,您可以检查和运行。打开实验,在实验浏览器窗格,双击实验的名称(实验1
)。
或者,您可以通过以下步骤自行配置实验。
1.开放实验经理。一个对话框提供与入门教程和最近的项目的链接,以及按钮以创建新项目或从文档中打开示例。
2.新的, 选择项目.一个对话框列出了几个支持工作流程的模板,包括图像分类,图像回归,序列分类,语义分段和金宝app自定义培训循环。
3.在图像分类实验, 选择使用自定义训练循环的图像分类.
4.选择新项目的位置和名称。实验经理在项目中开启了一个新的实验。这实验窗格显示定义实验的描述、超参数和训练函数。
3.在描述字段,输入实验的描述:
数字分类,使用各种初始学习率。
4.下面普遍存在,更换值myinitiallearnrate.
和0.0025:0.0025:0.015
.
5.培训功能, 点击编辑.训练功能在MATLAB编辑器中打开。训练功能指定了实验使用的训练数据、网络结构、训练选项和训练过程。在本实验中,训练函数分为四个部分。
负载培训数据将实验的训练数据定义为4-D阵列。实验使用数字数据集,该数据集由5000张28 × 28像素的0到9的灰度图像组成,根据它们所代表的数字进行分类。有关此数据集的更多信息,请参阅图像数据集.
定义网络体系结构定义用于深度学习分类的简单卷积神经网络的体系结构。为了用自定义的训练循环来训练网络,训练函数将网络表示为dlnetwork.
目的。
指定培训选项定义实验使用的培训选项。在该实验中,训练函数加载初始学习率的值myinitiallearnrate.
在HyperParameter表中输入。
火车模型定义实验使用的自定义培训循环。对于每个时代,自定义训练循环将数据播放并迭代批次的数据。对于每个迷你批处理,自定义训练循环评估模型渐变,状态和丢失,确定基于时间的衰减学习率计划的学习率,并更新网络参数。要跟踪培训的进度并记录培训损失的价值,培训函数使用实验。监控
目的监视器
.
当您运行实验时,实验经理培训由训练函数定义的网络六次。每次试验都使用HyperParameter表中指定的学习速率之一。默认情况下,实验管理器一次运行一项试验。如果您有并行计算工具箱,则可以同时运行多个试验。为了获得最佳结果,在运行实验之前,请启动一个并行池,与GPU一样多的工人。有关更多信息,请参阅使用实验经理并行培训网络和GPU通金宝app过发布支持(并行计算工具箱).
要在实验管理器工具系列上运行一个试验,请单击运行.
要同时运行多次试验,请单击使用并行接着运行.如果没有当前并行池,则实验管理器使用默认群集配置文件启动一个。实验经理然后执行多个同时试验,具体取决于可用的并行工作人员的数量。
结果表显示了每次试验的培训损失。
实验正在运行时,单击培训策划展示训练图,并跟踪每次试验的进度。
实验完成后,您可以通过使用列或过滤试验来对表进行排序过滤器窗格。您还可以通过向结果表添加注释来记录观察。有关更多信息,请参阅对实验结果进行排序、过滤和注释.
要测试个别试验的表现,导出审判的培训产出。在这一点实验经理ToolStrip,选择出口.在该实验中,训练输出是包含训练丢失和训练网络的值的结构。
关闭实验,在其中实验浏览器窗格中,右键单击项目的名称并选择关闭项目.实验经理关闭项目中包含的所有实验和结果。
这个例子展示了如何使用实验管理器应用程序设置一个内置的训练实验Trainnetwork.
函数和支持工作流程,如图像金宝app分类,图像回归,序列分类和语义分割。
内置的训练实验由描述、超参数表、设置函数和度量函数集合组成,用于评估实验的结果。
在里面描述字段,输入实验的描述。
下普遍存在,选择实验中使用的策略。
扫过一系列的超级计数器值,设置战略来详尽的扫描
.在HyperParameter表中,指定实验中使用的超参数的值。您可以使用数字,逻辑或字符串值指定作为标量级或向量的Hyper参数值。例如,这些是有效的HyperParameter规范:
0.01
0.01:0.01:0.05
[0.01 0.02 0.04 0.08]
["个" rmsprop”“亚当”)
运行实验时,实验经理使用表中指定的Hyper参数值的每个组合来列车。
通过使用贝叶斯优化,设置最佳培训选项战略来贝叶斯优化
.在HyperParameter表中,指定实验中使用的超参数的这些属性:
范围- 输入一个双元素向量,它给出了真实或整数的veridParameter的下限和上限,或列出了分类超参数的可能值的字符串阵列或单元数组。
类型- 选择真实的
(真实价值的HyperParameter),整数
(整数估值的HyperParameter),或分类
(分类超参数)。
转变- 选择没有任何
(没有变换)或日志
(对数变换)。
为了日志
,封面必须是真实的
要么整数
和积极的。在对数刻度上搜索和建模QuandExameter。
运行实验时,实验经理搜索HyperParameters的最佳组合。实验中的每次试验都会根据先前试验的结果使用Hyper参数值的新组合。指定实验的持续时间贝叶斯优化选项,输入最长时间(以秒为单位)和要运行的最大试验数。贝叶斯优化需要统计和机器学习工具箱。有关更多信息,请参阅利用贝叶斯优化优化实验超参数.
这设置函数配置实验的培训数据,网络架构和培训选项。设置函数的输入是具有来自HyperParameter表的字段的结构。设置函数的输出必须与输入的输入匹配Trainnetwork.
函数。该表列出了setup函数支持的签名。金宝app
实验目标 | 设置功能签名 |
---|---|
使用指定的图像和响应,为图像分类和回归任务培训网络图片 和培训选项定义选项 . |
功能[图像,图层,选项] =实验_setup(params)...结尾 |
使用指定的图像列车图片 和由此指定的响应回应 . |
功能[图像、响应、层、选项]=实验设置(参数)...结尾 |
使用所指定的序列和响应列车用于序列或时间序列分类和回归任务(例如,LSTM或GRU网络)的网络序列 . |
功能[序列,图层,选项] =实验_setup(params)...结尾 |
使用指定的序列列车网络序列 和由此指定的响应回应 . |
功能(序列,它、层、期权)= Experiment_setup (params)...结尾 |
使用由指定的特征数据和响应列车用于特征分类或回归任务(例如,多层Perceptron或MLP,网络)的网络。特性 . |
功能[功能,图层,选项] =实验_setup(params)...结尾 |
使用指定的功能数据列车特性 和由此指定的响应回应 . |
功能[功能,响应,图层,选项] =实验_setup(params)...结尾 |
笔记
在设置培训选项时,实验管理器不支持并行执行金宝app'executionenvironment'
来'多gpu'
要么'平行线'
或者当你启用培训选项时'disparctinbackground'
.有关更多信息,请参阅使用实验经理并行培训网络.
这指标部分指定评估实验结果的功能。对度量函数的输入是具有三个字段的结构:
训练有素
是个系列网络
对象或者Dagnetwork.
对象返回的Trainnetwork.
函数。有关更多信息,请参阅训练有素的网络.
TrainingInfo.
是包含返回的培训信息的结构Trainnetwork.
函数。有关更多信息,请参阅培训信息.
参数
是包含超参数表字段的结构。
度量标准函数的输出必须是标量编号,逻辑值或字符串。
如果您的实验使用贝叶斯优化,请选择从中优化的度量优化列表。在里面方向列表,指定您想要的最大化
要么最小化
这个指标。实验管理器使用这个度量来确定实验超参数的最佳组合。您可以从表中选择一个标准的训练或验证度量(例如准确性、RMSE或损失)或自定义度量。
此示例显示了如何使用实验管理器应用程序设置自定义培训实验。自定义培训实验支持需要除此之外的培训功能的工作流程金宝appTrainnetwork.
.这些工作流程包括:
培训由图层图未定义的网络。
使用自定义学习速率计划对网络进行培训。
使用自定义函数更新网络的可知参数。
培训生成的对抗性网络(GAN)。
训练一个暹罗网络。
自定义训练实验包括描述、超参数表和训练函数。
在里面描述字段,输入实验的描述。
下普遍存在,指定实验中使用的超参数的值。您可以使用数字,逻辑或字符串值指定作为标量级或向量的Hyper参数值。例如,这些是有效的HyperParameter规范:
0.01
0.01:0.01:0.05
[0.01 0.02 0.04 0.08]
["个" rmsprop”“亚当”)
运行实验时,实验经理使用表中指定的Hyper参数值的每个组合来列车。
这培训功能指定实验使用的培训数据,网络架构,培训选项和培训程序。培训函数的输入是:
具有来自HyperParameter表的字段的结构
一个实验。监控
您可以用来跟踪培训进度的对象,更新结果表中的信息字段,培训使用的度量标准的记录值,并产生培训图
实验管理器可节省培训函数的输出,因此您可以在培训完成时将其导出到MATLAB工作区。
笔记
信息列和度量列都显示实验结果表中的数值。此外,在训练图中记录度量值。使用信息列表示希望在结果表中显示但不在训练图中显示的值。
此示例显示如何在运行实验后进行比较并记录您的观察。
运行实验时,实验经理在多次乘以设置函数定义的网络。每次试验都使用不同的HyperParameters组合。实验完成后,表显示每个试验的培训和验证度量(例如准确性,RMSE和丢失)。要比较实验结果,您可以使用这些指标对结果表和过滤试验进行排序。
要在结果表中对试验进行排序,请使用与训练或验证度量相对应的列的下拉菜单。
指向要排序的列的标题。
单击三角形图标。
选择按升序排序要么按降序排序.
要从结果表中过滤试用时,请使用过滤器窗格。
在这一点实验经理ToolStrip,选择过滤器.
这过滤器窗格显示结果表中的数字指标的直方图。从中删除直方图过滤器窗格,在结果表中,打开相应列的下拉菜单并清除显示过滤器复选框。
调整用于培训或验证度量的直方图下的滑块,以便您要过滤。
结果表仅显示了所选范围中具有度量值的试验。
要恢复结果表中的所有试验,请关闭实验结果窗格并重新打开结果实验浏览器窗格。
要记录关于实验结果的观察,请添加注释。
右键单击结果表中的单元格,然后选择添加注释.或者,在结果表中选择一个单元格,并在Experiment Manager工具条上选择注释>添加注释.
在里面注释窗格,在文本框中输入您的观察。
您可以为结果表中的每个单元格添加多个注释。每个注释都标有时间戳。
要突出显示对应于注释的单元格,请单击注释上方的链接。
打开注释窗格并查看所有注释,在实验管理器工具系列中,选择注释>查看注释.
此示例显示如何检查产生给定结果的实验的配置。
经过实验后,您可以打开实验来源窗格查看实验描述和超参数表的只读副本,以及与实验使用的所有功能的链接。您可以使用此窗格中的信息跟踪生成每个结果的数据,网络和培训选项的配置。
例如,假设您多次运行实验。每次运行实验时,更改设置功能的内容,但始终使用相同的功能名称。您第一次运行实验,您可以使用实验模板提供的默认网络进行图像分类。第二次运行实验,修改设置功能以加载预制歌曲联网网络,用新图层替换最终图层进行转移学习。有关使用这两个网络架构的示例,请参阅创建一个深入学习的分类实验.
在第一个实验结果窗格中,单击查看实验来源关联。实验经理打开一个实验来源窗格,其中包含生成第一组结果的实验定义。单击窗格底部的链接打开第一次运行实验时使用的设置函数。您可以复制此设置函数以使用简单分类网络重新运行实验。
在第二个实验结果窗格中,单击查看实验来源关联。实验经理打开一个实验来源包含产生第二组结果的实验定义的窗格。单击窗格底部的链接以打开第二次使用实验的设置功能。您可以使用转移学习复制此设置功能以重新运行实验。
实验管理器存储您使用的所有功能的副本,因此在修改和重新运行实验时,您不必手动重命名这些功能。
要在没有扫描的超参数的情况下可视化,构建和培训网络,您可以使用深网络设计师应用程序。培训网络后,将脚本作为深度学习实验用作起点。有关更多信息,请参阅在实验管理器中使用深度网络设计器生成的代码.
您单击了与此MATLAB命令对应的链接:
在MATLAB命令窗口中输入它来运行命令。Web浏览器不支持MATLAB命令。金宝app
您还可以从以下列表中选择一个网站:
选择中国网站(以中文或英文)以获取最佳网站性能。其他MathWorks国家网站未优化您的位置。