此示例显示如何配置使用不同权重初始化器初始化卷积和完全连接的图层的权重进行培训的实验。要对您的任务进行比较不同重量初始化器的性能,请使用此示例作为指南创建实验。
当训练一个深度学习网络时,初始化层权值和偏差会对网络训练的效果有很大的影响。初始化器的选择对没有批处理规范化层的网络有更大的影响。有关权重初始化器的更多信息,请参见比较层重量初始化器。
首先,打开示例。实验经理加载带有可检查和运行的预配置实验的项目。要开实验,在中实验的浏览器窗格,双击实验的名称(WeightInitializerExperiment
)。
内置的训练实验包括一个描述、一个超参数表、一个设置函数和一组度量函数来评估实验的结果。有关更多信息,请参见配置内置培训实验。
的描述字段包含实验的文本描述。对于本例,描述如下:
通过初始化普定网络中的卷积和完全连接的层的权重来执行转移学习。
的Hyperparameters部分指定策略(详尽的扫描
)和用于实验的超参数值。运行实验时,实验经理使用HyperParameter表中指定的HyperParameter值的每个组合来列车。此示例使用HyperParametersWeightsInitializer
和偏见初始化器
指定预训练网络中卷积层和全连通层的权值和偏差初始化器。有关这些初始化器的更多信息,请参见WeightsInitializer
和偏见初始化器
。
的设置函数配置实验的培训数据,网络架构和培训选项。检查设置功能,下设置函数,点击编辑。在MATLAB®编辑器中打开设置函数。
在这个例子中,setup函数:
的指标部分指定评估实验结果的可选功能。此示例不包括任何自定义度量标准功能。
当您运行实验时,实验管理器多次训练由设置函数定义的网络。每次试验都使用不同的超参数值组合。默认情况下,实验管理器每次运行一个试验。如果您有Parallel Computing Toolbox™,您可以同时运行多个试验。为了获得最佳结果,在运行实验之前,请启动一个具有与gpu相同数量的worker的并行池。有关更多信息,请参见使用实验经理并行培训网络和GPU支金宝app持版本(并行计算工具箱)。
要在实验管理器工具系列上运行一个试验,请单击运行。
若要同时运行多个试验,请单击使用并行然后运行。如果当前没有并行池,Experiment Manager将使用默认的集群配置文件启动一个并行池。然后,根据并行工作器的数量,实验管理器会同时执行多个试验。
结果表格显示了每次试验的准确性和损失。
实验正在运行时,单击培训策划显示培训情节并跟踪每次试验的进度。
点击混淆矩阵显示每个已完成的试用中的验证数据的混淆矩阵。
实验完成后,可以按列对结果表进行排序,使用过滤器窗格,或通过添加注释记录观察。有关更多信息,请参见排序,过滤和注释实验结果。
要测试单个试验的性能,导出培训的网络或审判的培训信息。在这一点实验经理将来发布,选择出口>训练网络或者出口>培训信息,分别。有关更多信息,请参见网和信息。
在里面实验的浏览器窗格中,右键单击项目的名称并选择关闭项目。实验管理器关闭项目中包含的所有实验和结果。