深度学习调优
以编程方式调整训练选项,从检查点恢复训练,并调查对抗性示例
属性设置选项trainingOptions
功能,请参阅参数设置与卷积神经网络训练.在您确定了一些好的开始选项之后,您可以自动扫描超参数或尝试使用贝叶斯优化实验管理器.
通过生成对抗示例来研究网络鲁棒性。然后,您可以使用快速梯度符号方法(FGSM)对抗性训练来训练一个对对抗性扰动健壮的网络。
应用程序
深度网络设计器 | 设计、可视化和训练深度学习网络 |
功能
trainingOptions |
深度学习神经网络的训练选项 |
trainNetwork |
训练深度学习神经网络 |
主题
- 参数设置与卷积神经网络训练
学习如何为卷积神经网络设置训练参数。
- 使用贝叶斯优化的深度学习
这个例子展示了如何将贝叶斯优化应用于深度学习,并为卷积神经网络找到最优的网络超参数和训练选项。
- 并行训练深度学习网络
这个例子展示了如何在本地机器上运行多个深度学习实验。
- 使用自定义训练循环训练网络
这个例子展示了如何训练一个使用自定义学习率计划分类手写数字的网络。
- 比较激活层
这个例子展示了如何比较训练网络与ReLU、leaky ReLU、ELU和swish激活层的准确性。
- 使用深度网络设计器生成实验
使用实验管理器调整在深度网络设计器中训练的网络的超参数。
- 深度学习技巧和技巧
学习如何提高深度学习网络的准确性。
- 用雅可比正则化训练鲁棒深度学习网络
这个例子展示了如何使用雅可比正则化方案[1]训练一个对对抗例子鲁棒的神经网络。
- 指定自定义权重初始化函数
这个例子展示了如何为卷积层和泄漏的ReLU层创建一个自定义的He权重初始化函数。
- 比较层权重初始化器
这个例子展示了如何用不同的权重初始化器训练深度学习网络。