主要内容

深度学习自定义训练循环

定制深度学习训练循环和损失功能

如果培训选项函数不提供任务所需的训练选项,或自定义输出层不支持所需的损失函数,则可以定义自定义训练循环。金宝app对于无法使用层图创建的网络,可以将自定义网络定义为函数。想要了解更多,请看定义自定义训练回路、损耗函数和网络

功能

全部展开

dlnetwork 深度学习网络自定义训练循环
向前地 计算深度学习网络输出进行训练
预测 计算深度学习网络输出用于推理
阿达木酯 使用自适应矩估计更新参数(Adam)
rmspropupdate 使用均方根传播(RMSProp)更新参数
sgdmupdate 使用随机动量梯度下降(SGDM)更新参数
dlupdate 使用自定义函数更新参数
小型批处理队列 创建用于深入学习的小批量
onehotencode 将数据标签编码为热点向量
onehotdecode 解码概率向量到类标签
padsequences 填充或截断序列数据到相同的长度
初始化 初始化可学习参数和状态参数dlnetwork
dlarray 用于定制训练循环的深度学习阵列
梯度 使用自动微分为自定义训练循环计算梯度
dlfeval 评估自定义训练循环的深度学习模型
会变暗 尺寸的标签dlarray
finddim 查找带有指定标签的尺寸
stripdims 删除dlarray数据格式
extractdata 从中提取数据dlarray
伊斯特拉雷 确定输入是否正确dlarray
functionToLayerGraph 将深度学习模型函数转换为层图
dlconv 深度学习卷积
dltranspconv 深度学习转置卷积
lstm 长时间的短期记忆
格勒乌 封闭的复发性单元
嵌入 嵌入离散数据
fullyconnect 对所有加权输入数据求和并应用偏差
dlode45 非刚性常微分方程的深度学习解
线性整流函数(Rectified Linear Unit) 应用整流线性单元激活
leakyrelu 应用泄漏整流线性单元激活
batchnorm 独立地对每个通道的所有观测数据进行标准化
crosschannelnorm 使用局部响应对交叉通道方形进行规格化
groupnorm 为每个观测独立地跨通道分组子集标准化数据
InstanceForm 对每个独立观测的每个通道进行标准化
layernorm 独立地对每个观测的所有通道中的数据进行标准化
avgpool 将数据集合到空间维度上的平均值
马克斯普尔 将数据池设置为最大值
Maxunpol 取消最大池操作的输出
softmax 对通道维度应用softmax激活
乙状结肠 应用乙状结肠激活
crossentropy 交叉熵损失的分类任务
l1loss l1回归任务损失
l2loss l2回归任务损失
胡伯 回归任务的Huber损失
微卫星 半均方误差
ctc 非对齐序列分类中的连接时态分类损失
dlaccelerate 加速定制训练循环的深度学习功能
加速函数 加速深度学习函数
clearCache 清除加速深度学习功能跟踪缓存

主题

自定义训练循环

用MATLAB训练深度学习模型

学习如何在MATLAB中训练深度学习模型®

定义自定义训练回路、损耗函数和网络

学习如何使用自动区分定义和定制深度学习训练循环、损失函数和网络。

使用自定义训练循环训练网络

这个例子展示了如何训练一个使用自定义学习速率计划对手写数字进行分类的网络。

在自定义训练循环中指定训练选项

了解如何在自定义训练循环中指定常见训练选项。

为自定义训练循环定义模型梯度函数

了解如何为自定义训练循环定义模型渐变函数。

在自定义训练循环中更新批处理归一化统计

此示例显示如何在自定义训练循环中更新网络状态。

使用dlnetwork对象进行预测

这个例子展示了如何使用dlnetwork对象,将数据分割为小批。

基于图像和特征数据的列车网络

这个例子展示了如何训练一个网络,使用图像和特征输入数据来分类手写数字。

多输出列车网络

这个例子展示了如何用多个输出来训练一个深度学习网络,预测手写数字的标签和旋转角度。

分类视频使用深度学习与自定义训练循环

这个例子展示了如何结合预先训练的图像分类模型和序列分类网络来创建一个视频分类网络。

训练图像分类网络对对抗例子的鲁棒性

本例展示了如何使用快速梯度符号法(FGSM)对抗性训练来训练对对抗性示例具有鲁棒性的神经网络。

训练神经ODE网络

这个例子展示了如何训练增强型神经常微分方程(ODE)网络。

用雅可比正则化训练鲁棒深度学习网络

这个例子展示了如何使用雅可比正则化方案[1]来训练神经网络,使其对对抗的例子具有鲁棒性。

用神经网络求解常微分方程

这个例子展示了如何使用神经网络求解常微分方程。

组合多输出网络进行预测

这个例子展示了如何组装多个输出网络进行预测。

在GPU上并行运行自定义训练循环

通过在GPU上运行,在多个GPU上并行运行,或在集群上运行,加速自定义训练循环。

模型函数

基于模型函数的列车网络

这个例子展示了如何使用函数而不是层图或层次图来创建和训练一个深度学习网络dlnetwork

使用模型函数更新批处理归一化统计

这个例子展示了如何在一个定义为函数的网络中更新网络状态。

使用模型函数进行预测

这个例子展示了如何使用模型函数进行预测,方法是将数据分割成小批。

初始化模型函数的可学习参数

学习如何使用模型函数初始化自定义训练循环的可学习参数。

自动微分

支持dlarray的函数列表金宝app

查看支持的函数列表金宝appdlarray对象。

自动分化背景

了解自动差异化是如何运作的。

在深度学习工具箱中使用自动区分

如何在深度学习中使用自动区分。

深度学习函数加速

深度学习函数加速自定义训练循环

通过缓存和重用跟踪,加速自定义训练循环的模型函数和模型渐变函数。

加速自定义训练循环函数

这个例子展示了如何加速深度学习自定义训练循环和预测函数。

检查加速深度学习功能输出

此示例显示如何检查加速函数的输出是否与基础函数的输出匹配。

评估加速深度学习功能的性能

此示例显示了如何评估使用加速函数的性能增益。

特色的例子