COMPRADENTERS.功能

的COMPRADENTERS.辅助功能采用卷积操作的学习参数和迷你批次输入数据dlX，并返回相对于可学习参数的梯度。

功能= dlconv(dlX,params. weights,params. bias);海底=总和(海底,“所有”）;梯度= dlgradient(海底,params);结束

负载培训数据

加载数字训练数据。

[XTrain, YTrain] = digitTrain4DArrayData;类=类别(YTrain);numClasses =元素个数(类);

定义网络

定义网络架构并指定图像平均值“的意思是”选项在图像输入层。

[imageInputLayer([28 28 1]，])，“名字”，“输入”，“的意思是”意味着(XTrain 4)) convolution2dLayer(5年,20年“名字”，'conv1') reluLayer (“名字”，“relu1”）卷积2dlayer（3,20，“填充”, 1“名字”，“conv2”) reluLayer (“名字”，'relu2'）卷积2dlayer（3,20，“填充”, 1“名字”，'conv3') reluLayer (“名字”，'relu3'）全连接列（numcrasses，“名字”，'fc') softmaxLayer (“名字”，'softmax'）];Lgraph = LayerGraph（层）;

创建一个dlnetwork对象从层图。

dlnet = dlnetwork (lgraph);

定义模型梯度函数

创建helper函数modelGradients，列在本例的最后。函数接受dlnetwork对象DLNET.和迷你输​​入数据dlX与相应的标签Y，并返回损失和损失相对于中可学习参数的梯度DLNET.．

定义随机梯度下降函数

创建helper函数sgdfunction.，列在本例的最后。的函数参数和参数，分别为一个可学习参数和损失相对于该参数的梯度，并使用随机梯度下降算法返回更新后的参数，表示为

在哪里 $\mathit{l}$为迭代数， $\alpha >0$为学习速率， $\theta$是参数向量，和 $\mathit{E}（\theta ）$为损失函数。

指定培训选项

指定在培训期间使用的选项。

minibatchsize = 128;numepochs = 30;numobservations = numel（ytrain）;numiterationsperepoch =楼层（numobservations./minibatchsize）;

指定学习率。

学习= 0.01;

在GPU上训练(如果有的话)。使用GPU需要并行计算工具箱™和支持的GPU设备。金宝app有关支持的设备的信息，请参见金宝appGPU支金宝app持情况（并行计算工具箱）．

executionEnvironment =“汽车”；

在一个情节中想象训练的进展。

情节=“培训 - 进展”；

列车网络的

使用自定义训练循环训练模型。对于每个epoch，将数据和循环换掉迷你批次的数据。通过调用更新网络参数dlupdate与函数sgdfunction.在本例的最后定义。在每个纪元的末尾，展示训练的进展情况。

初始化培训进度情节。

如果plots ==“培训 - 进展”图lineloSstrain =动画线（“颜色”[0.85 0.325 0.098]);ylim([0正])包含(“迭代”）ylabel（“损失”网格)在结束

培训网络。

迭代= 0;开始=抽搐;为epoch = 1：numepochs％Shuffle数据。IDX = RANDPERM（NUMER（YTRAIN））;XTrain = XTrain（：，：，：，IDX）;YTrain = YTrain（IDX）;为i = 1：numiterationsperepoch迭代=迭代+ 1;读取小批数据，并将标签转换为假%变量。idx =(张)* miniBatchSize + 1:我* miniBatchSize;X = XTrain (:,:,:, idx);Y = 0 (numClasses, miniBatchSize，“单一”）;为c = 1:numClasses Y(c,YTrain(idx))==class (c)) = 1;结束%转换小批数据到美元。dlX = dlarray(单(X),“SSCB”）;%如果在GPU上进行训练，则将数据转换为gpuArray。如果(executionEnvironment = =“汽车”&& canUseGPU) || executionEnvironment ==“GPU”dlx = gpuarray（dlx）;结束％使用dlfeval和dlfeval评估模型渐变和损失%模型梯度辅助功能。[渐变，损失] = DLFeval（@ Maposgradients，Dlnet，DLX，Y）;%使用中定义的SGD算法更新网络参数% sgdFunction辅助函数。updatefcn = @（dlnet，渐变）sgdfunction（dlnet，渐变，学习）;dlnet = dlupdate（updatefcn，dlnet，渐变）;%显示训练进度。如果plots ==“培训 - 进展”d =持续时间（0,0，toc（start），“格式”，“hh: mm: ss”）;addpoints (lineLossTrain、迭代、双(收集(extractdata(损失))))标题(“时代：”+时代+”,过去:“+字符串（d））绘制结束结束结束

测试网络

通过比较真实标签的测试集的预测来测试模型的分类准确性。

[XTest, YTest] = digitTest4DArrayData;

将数据转换为adlarray使用维度格式“SSCB”．对于GPU预测，也将数据转换为gpuArray．

dlXTest = dlarray (XTest,“SSCB”）;如果(executionEnvironment = =“汽车”&& canUseGPU) || executionEnvironment ==“GPU”dlxtest = gpuarray（dlxtest）;结束

对图像进行分类dlnetwork对象,使用预测函数并找到具有最高分的类。

dlYPred =预测(dlnet dlXTest);[~, idx] = max (extractdata (dlYPred), [], 1);YPred =类(idx);

评估分类精度。

精度=意味着(YPred = =次)

精度= 0.9386

模型梯度函数

辅助函数modelGradients需要一个dlnetwork对象DLNET.和迷你输​​入数据dlX与相应的标签Y，并返回损失和损失相对于中可学习参数的梯度DLNET.．要自动计算梯度，请使用dlgradient.函数。

功能[梯度，损失] = Maposgradients（DLNET，DLX，Y）Dlypry =前进（DLNET，DLX）;损失=联语（Dlypred，Y）;梯度= Dlgradient（损失，DLNET.LEALNABLE）;结束

随机梯度下降函数

辅助函数sgdfunction.接受可学习参数参数，即该参数相对于损耗的梯度坡度，以及学习速度学习，并使用随机梯度下降算法返回更新后的参数，表示为

在哪里 $\mathit{l}$为迭代数， $\alpha >0$为学习速率， $\theta$是参数向量，和 $\mathit{E}（\theta ）$为损失函数。

功能parameter = sgdFunction(parameter,gradient,learnRate);结束