主要内容

深度学习定制训练循环

自定义深度学习培训循环和损失功能

如果是trainingOptions功能不提供您需要的培训选项,或者自定义输出图层不支持您需要的丢失功能,然后您可以定义自定义训练循环。金宝app对于无法使用图层图创建的网络,您可以将自定义网络定义为函数。要了解更多信息,请参阅定义自定义训练循环,损失函数和网络

职能

展开全部

dlnetwork. 定制培训循环深度学习网络
向前 计算培训的深度学习网络输出
预测 计算推理的深度学习网络输出
adamupdate 使用Adaptive Sonment估算更新参数(亚当)
rmspropupdate. 使用root均方平方传播更新参数(RMSPROP)
sgdmupdate. 使用动量(SGDM)的随机梯度下降更新参数
dlupdate. 使用自定义功能更新参数
minibatchqueue 为深度学习创建小批量
onehotencode. 将数据标签编码为单热量向量
onehotdecode. 解码概率向量进入类标签
拼图序列 垫或截断序列数据到相同的长度
初始化 初始化可知和状态参数的dlnetwork.
dlarray. 深度学习数组自定义训练循环
dlgradient. 使用自动差异计算自定义训练循环的渐变
dlfeval. 评估定制训练循环的深度学习模型
昏暗 维度标签dlarray.
Finddim. 查找具有指定标签的尺寸
条纹丁 消除dlarray.数据格式
提取数据 从中提取数据dlarray.
isdlarray 确定输入是否为dlarray.
functiontolayergraph. 将深度学习模型函数转换为图层图
dlconv 深入学习卷积
dltranspconv 深度学习转置卷积
LSTM. 长期短期记忆
gru. 门控经常性单位
嵌入 嵌入离散数据
全协商 求和所有加权输入数据并应用一个偏差
dlode45 非常见常见微分方程的深度学习解决方案(ODE)
relu. 应用整流线性单元激活
Leaceryru. 应用泄漏整流线性单元激活
Batchnorm. 对每个通道的所有观测数据进行独立的标准化
Crosschannelnorm. 使用局部响应进行交叉通道平方归一化
Groupnorm. 独立地对每个观测数据跨信道分组子集进行归一化
instancenorm 每个频道正常化每个观察的每个通道
翻译 对每个观测的所有通道的数据进行独立标准化
avgpool 池数据到空间尺寸的平均值
maxpool 将数据池设置为最大值
maxunpool unpool最大池操作的输出
softmax. 将SoftMax激活应用于通道尺寸
sigmoid. 适用Sigmoid激活
基于分子 分类任务的交叉熵损失
l1loss. L.1回归任务的损失
l2loss. L.2回归任务的损失
休伯 回归任务的Huber亏损
均方误差 半均匀的误差
CTC. 连接级别分类(CTC)未对准序列分类的丢失
dlaccelerate. 加速自定义训练循环的深度学习功能
AcceleratedFunction 加速深度学习功能
clearCache 清除加速深度学习功能跟踪缓存

话题

自定义训练循环

在Matlab培训深入学习模型

了解如何在Matlab中培训深入学习模型®

定义自定义训练循环,损失函数和网络

了解如何定义和自定义使用自动差异的深度学习培训循环,丢失功能和网络。

使用自定义培训循环列车网络

这个例子展示了如何训练一个网络,用一个定制的学习速率计划来分类手写数字。

在自定义培训循环中指定培训选项

了解如何在自定义训练循环中指定常用培训选项。

定义Model梯度函数用于自定义训练循环

学习如何为自定义训练循环定义模型梯度函数。

在自定义训练循环中更新批量标准化统计信息

这个例子展示了如何在一个自定义的训练循环中更新网络状态。

使用DLNetwork对象进行预测

此示例显示如何使用a进行预测dlnetwork.通过将数据拆分为迷你批量来。

图像和特征数据训练网络

此示例显示如何使用图像和特征输入数据训练分类手写数字的网络。

具有多个输出的火车网络

此示例显示如何使用多个输出训练深度学习网络,该输出预测手写数字的标签和旋转角度。

使用与自定义训练循环的深度学习来分类视频

该示例通过组合预读的图像分类模型和序列分类网络,如何创建用于视频分类的网络。

火车图像分类网络鲁棒到对抗的例子

这个例子展示了如何使用快速梯度符号法(FGSM)对抗训练神经网络对对抗例子具有鲁棒性。

火车神经颂

这个例子展示了如何训练一个增广神经常微分方程(ODE)网络。

用雅各比尔正则化培训强大的深度学习网络

此示例显示了如何使用雅各比正则化方案[1]训练对对抗性示例具有鲁棒的神经网络[1]。

使用神经网络解决常微分方程

该示例显示了如何使用神经网络求解常规方程(ODE)。

组装多输出网络以进行预测

此示例显示如何组装多个输出网络以进行预测。

在GPU和并行运行自定义培训循环

通过在GPU上运行,并行使用多个GPU或群集时加快自定义训练循环。

模型功能

使用模型函数的列车网络

此示例显示如何通过使用函数而不是图层图形或者创建和培训深度学习网络dlnetwork.

使用模型函数更新批量归一化统计信息

此示例显示如何在定义为函数的网络中更新网络状态。

使用模型功能进行预测

此示例显示如何通过将数据拆分为迷你批量来使用模型函数进行预测。

初始化模型函数的可知参数

了解如何使用模型函数初始化自定义训练循环的可读参数。

自动分化

支持dlarray的函数列表金宝app

查看支持的功能列表金宝appdlarray.对象。

自动差异化背景

了解自动分化的工作原理。

在深度学习工具箱中使用自动差异化

如何在深度学习中使用自动分化。

深度学习功能加速

定制培训循环的深度学习功能加速

通过缓存和重用跟踪来加速定制训练循环的模型函数和模型梯度函数。

加速自定义训练循环功能

此示例显示如何加速深度学习自定义训练循环和预测功能。

检查加速深度学习功能输出

这个例子展示了如何检查加速函数的输出是否与底层函数的输出匹配。

评估加速深度学习功能的性能

这个例子展示了如何评估使用一个加速函数的性能收益。

特色例子