深层网络量化器
数字转换深神经网络对8位整数数据类型
描述
使用深层网络量化器应用以减少内存需求的深层神经网络权重量化,偏见,和激活卷积层8位整数数据类型。使用这个应用程序,您可以:
可视化的动态范围卷积神经网络层深。
选择个人网络层数字转换。
评估量化网络的性能。
生成GPU代码部署量化网络使用GPU编码器™。
生成HDL代码部署量化网络使用深度学习FPGA HDL工具箱™。
生成c++代码部署量化网络手臂Cortex-A单片机使用MATLAB®编码器™。
生成一个simulatable量子化的网络,您可以探索在MATLAB生成代码或部署到硬件。
这个应用程序要求深度学习工具箱量化模型库。了解数字转换所需的产品深神经网络,看到下载188bet金宝搏的量化工作流先决条件。
打开深层网络量化器的应用
MATLAB命令提示:输入
deepNetworkQuantizer
。MATLAB将来发布:应用程序选项卡,在机器学习和深度的学习,点击应用程序图标。
参数
执行环境
——执行环境
GPU
(默认)|FPGA
|CPU
|MATLAB
当您选择New >数字转换网络,这个应用程序允许您选择量化网络的执行环境。网络是如何量化取决于执行环境的选择。
当您选择MATLAB
执行环境,应用程序执行target-agnostic量子化的神经网络。这个选项不需要你目标硬件为了探索在MATLAB量化网络。
硬件设置
——硬件设置
模拟环境|目标
指定的硬件设置根据你的执行环境。
GPU执行环境
选择从下面的仿真环境:
模拟环境 行动 GPU
模拟主机GPU
部署量化网络主机GPU。验证单精度的量化网络通过比较性能的网络版本。
MATLAB
在MATLAB模拟
在MATLAB模拟了量化网络。验证单精度的量化网络通过比较性能的网络版本。
FPGA执行环境
选择从下面的仿真环境:
模拟环境 行动 MATLAB
在MATLAB模拟
在MATLAB模拟了量化网络。验证单精度的量化网络通过比较性能的网络版本。 英特尔Arria 10 SoC
arria10soc_int8
将量化网络部署到一个英特尔®Arria®10 SoC董事会通过
arria10soc_int8
比特流。验证单精度的量化网络通过比较性能的网络版本。Xilinx ZCU102
zcu102_int8
部署Xilinx量化网络®Zynq®UltraScale +™MPSoC ZCU102 10 SoC董事会通过
zcu102_int8
比特流。验证单精度的量化网络通过比较性能的网络版本。Xilinx ZC706
zc706_int8
部署量化网络Xilinx zynq - 7000 ZC706董事会通过
zc706_int8
比特流。验证单精度的量化网络通过比较性能的网络版本。当您选择英特尔Arria 10 SoC,Xilinx ZCU102,或Xilinx ZC706另外选择,选择要使用的接口部署和验证量子网络。
目标的选择 行动 JTAG 项目目标FPGA板下选择模拟环境通过使用一个JTAG电缆。有关更多信息,请参见JTAG连接(深度学习HDL工具箱)。 以太网 项目目标FPGA板中选择模拟环境通过以太网接口。指定IP地址的目标板IP地址字段。 CPU执行环境
的硬件设置按钮被禁用。然而,您必须使用
raspi
函数来建立一个连接到你的树莓π™板前数字转换和验证的一步。
量化的选择
——选择量化和验证
度量函数|指数方案
默认情况下,深层网络量化器应用确定度量函数用于验证基于网络的类型是量子化的。
类型的网络 | 度量函数 |
---|---|
分类 | (精度——网络的准确性 |
对象检测 | 平均精度——平均精度检测结果。看到 |
回归 | 均方误差——网络的均方误差 |
语义分割 | WeightedIOU——平均每个类的借据,加权类像素的数量。看到 |
您还可以指定一个自定义度量函数用于验证。
您可以选择指数用于量化的网络选择方案:
极大极小——(默认)评估指数根据校准数据中的信息范围,避免溢出。
柱状图——发布出去是依靠扩展指数的评估最适合校准数据。
出口
——选择输出量化网络
出口量化网络
|出口数字转换器
|生成代码
出口量化网络——校准后网络、数字转换和量化网络添加到基本工作空间。这个选项simulatable量子化的网络出口,
quantizedNet
,你可以探索在MATLAB部署到硬件。相当于使用这个选项数字转换
在命令行中。代码生成不支持导出的量子化的网络,金宝app
quantizedNet
。出口数字转换器——添加
dlquantizer
对象的基本工作空间。你可以保存dlquantizer
为进一步勘探对象,并使用它深层网络量化器应用程序或在命令行中,或者为你的目标硬件使用它来生成代码。生成代码——打开GPU编码器应用程序并生成GPU从量化和验证神经网络代码。生成GPU代码需要一个GPU编码器许可证。