打开深层网络量化器应用程序。

deepNetworkQuantizer

在这个应用程序中,单击新并选择进口dlquantizer对象。

在对话框中,选择dlquantizer从基工作区对象导入。对于这个示例,使用quantObj您在上面的示例中创建的数字转换为GPU神经网络的目标。

应用进口中包含任何数据dlquantizer对象,收集在命令行。这个数据可以包括网络数字转换,校准数据,验证数据,校准数据。

这个应用程序显示一个包含中包含校准数据导入表dlquantizer对象,quantObj。右边的表,应用程序显示的动态范围参数的直方图。灰色区域的直方图显示的数据不能代表的量化表示。如何解释这些直方图的更多信息,参见量子化的神经网络。

创建一个文件在你当前的工作目录getLogoNetwork.m。在文件中,输入:

函数网= getLogoNetwork如果~ isfile (“LogoNet.mat”)url =“//www.tatmou.com/金宝appsupportfiles/gpucoder/cnn_models/logo_detection/LogoNet.mat”;websave (“LogoNet.mat”url);结束data =负载(“LogoNet.mat”);网= data.convnet;结束

加载pretrained网络。

snet = getLogoNetwork;

snet = SeriesNetwork属性:层:[22×1 nnet.cnn.layer.Layer] InputNames: {“imageinput”} OutputNames: {“classoutput”}

为量化定义校准和验证数据使用。

运动网络应用程序使用校准数据和收集的动态范围重量和偏见的卷积和完全连接层网络。软件还练习的动态范围激活LogoNet网络的所有层。最好的量化结果,校准数据必须输入LogoNet网络的代表。

量化后,应用程序使用验证数据集测试网络了解的有限的范围和精度的影响量化可学的卷积层网络的参数。

在这个示例中,使用的图像logos_dataset校准和验证LogoNet网络数据集。定义一个augmentedImageDatastore调整对象的数据网络。然后,将数据分为校准和验证数据集。

加快校准和验证过程中使用的一个子集calibrationData和validationData。存储新的减少校准数据集calibrationData_concise和新的减少验证数据集validationData_concise。

curDir = pwd;newDir = fullfile (matlabroot,“例子”,“deeplearning_shared”,“数据”,“logos_dataset.zip”);拷贝文件(newDir curDir);解压缩(“logos_dataset.zip”);imageData = imageDatastore (fullfile (curDir“logos_dataset”),…“IncludeSubfolders”,真的,“FileExtensions”,“jpg”,“LabelSource”,“foldernames”);[calibrationData, validationData] = splitEachLabel (imageData, 0.5,“随机”);calibrationData_concise = calibrationData.subset (1:20);validationData_concise = vaidationData.subset (1:1);

在MATLAB命令提示符,打开深网络量化器的应用。

deepNetworkQuantizer

点击新并选择数字转换网络。

应用程序验证你的执行环境。

选择执行环境和网络数字转换的基本工作空间。对于这个示例,选择一个系列FPGA执行环境和网络snet。

应用程序显示选定的网络层图。

在校准部分应用程序将来发布的校准数据,选择augmentedImageDatastore从包含校准的基本工作空间数据对象calibrationData_concise。

点击校准。

的深层网络量化器运动网络应用程序使用校准数据和信息收集范围可学的参数在网络层。

校准完成后,应用程序显示一个表包含重量和偏见的卷积和完全连接层网络。也显示的动态范围内各层网络的激活,在校准他们的最小和最大值。应用程序显示直方图动态范围的参数。灰色区域的直方图显示的数据不能代表的量化表示。如何解释这些直方图的更多信息,参见量子化的神经网络。

在数字转换列的表,指示是否可学的参数进行量化在层。你不能数字转换层不卷积层。层不量化留在单精度。

在验证部分应用程序将来发布的验证数据,选择augmentedImageDatastore从包含验证的基本工作空间数据对象validationData_concise。

在硬件设置将来发布的部分,选择从表中列出的选项:

当您选择英特尔Arria 10 SoC (arria10soc_int8),Xilinx ZCU102 (zcu102_int8),或Xilinx ZC706 (zc706_int8)选项,选择要使用的接口部署和验证量子网络。的目标接口表中列出的选项。

对于这个示例,选择Xilinx ZCU102 (zcu102_int8)中,选择以太网,并输入IP地址。

在验证部分应用程序将来发布的量化的选择,选择默认的度量函数。

点击数字转换和验证。

的深层网络量化器应用量化权重、激活和偏见的卷积层网络扩展8位整数数据类型和使用验证数据网络运动。应用确定度量函数用于验证基于网络的类型是量子化的。

验证完成后,应用程序显示的结果验证,包括:

如果你想使用一个不同的度量函数进行验证,例如使用前5精度度量函数而不是默认的(精度度量函数,您可以定义一个自定义的度量函数。这个函数保存在一个本地文件。

函数精度= hComputeAccuracy (predictionScores,净,数据存储)% %计算模型级精度的统计数据%负载地面实况tmp = readall(数据存储);groundTruth = tmp.response;%比较预测标签与地面真理predictionError = {};为idx = 1:元素个数(groundTruth)[~,类似]= max (predictionScores (idx:));yActual = net.Layers(结束). class(补贴);predictionError{结束+ 1}= (yActual = = groundTruth (idx));% #好吧结束%和所有预测错误。predictionError = [predictionError {}):;精度= (predictionError) /元素个数之和(predictionError);结束

重新验证网络通过使用这个自定义度量函数,量化的选择,输入自定义度量函数的名称hComputeAccuracy。选择添加添加hComputeAccuracy可用的指标函数列表的应用程序,选择hComputeAccuracy作为度量函数来使用。

自定义指标函数必须的道路上。如果度量函数没有路径,这一步骤产生一个错误。

点击数字转换和验证。

应用程序对网络和显示自定义度量函数的验证结果。

应用程序验证结果表中只显示标量值。查看验证结果与nonscalar输出自定义度量函数,导出dlquantizer对象,然后验证量化网络使用验证函数在MATLAB命令窗口。

量化和验证网络之后,您可以选择导出量化网络。

单击出口按钮。在下拉列表中,选择出口数字转换器创建一个dlquantizer对象的基本工作空间。你可以量化的网络部署到你的目标FPGA板和检索利用MATLAB的预测结果。看到的,部署量化网络的例子(深度学习HDL工具箱)。