cnncodegen

生成代码的深度学习网络的目标手臂马里GPU

所有的页面崩溃

语法

cnncodegen(网、“targetlib”、“arm-compute-mali”)

cnncodegen(净,‘targetlib’,‘arm-compute-mali’, targetparams)

描述

cnncodegen (净“targetlib”,“arm-compute-mali”)生成c++代码通过使用指定的网络对象的手臂^®计算库马里gpu。

产品和要求GPU编码器™为深入学习GPU编码器接口。

例子

cnncodegen (净,‘targetlib’,‘arm-compute-mali’,targetparams)生成c++代码指定的网络对象通过使用手臂计算库马里gpu和额外的代码生成选项。

例子

全部折叠

生成c++代码Pretrained网络运行在ARM处理器

使用cnncodegen生成c++代码pretrained网络部署到一只手臂马里图形处理器。

通过使用得到pretrained GoogLeNet模型googlenet(深度学习工具箱)函数。这个函数需要深度学习工具箱™模型GoogLeNet网络。如果您还没有安装这种支持包,这个函数提供一个下载链接。金宝app另外,看到//www.tatmou.com/matlabcentral/fileexchange/64456-deep-learning-toolbox-model-for-googlenet-network。

网= googlenet;

通过使用生成代码cnncodegen与“targetlib”设置为“arm-compute-mali”。默认情况下,代码生成器目标版本“19.05”的手臂。针对不同版本的计算库,使用“ArmComputeVersion”参数。

cnncodegen(净,“targetlib”,“arm-compute-mali”…,“targetparams”结构(“ArmComputeVersion”,“19.02”));

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -编译抑制:生成代码。- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - # # # Codegen成功生成的手臂装置

代码生成器生成的. cpp的头文件“/ pwd / codegen”文件夹中。生成DAG网络作为一个c++类CnnMain87层类的,包含一个数组。代码生成器减少层数是通过层融合优化卷积和批处理标准化层。的设置()这个类的方法设置为每一层对象处理和分配资源。的预测()方法调用预测网络中为每个87层。的清理()方法释放所有内存和系统资源分配给每一层对象。所有的二进制权重(cnn_ * * _w文件()和偏见cnn_ * * _b)的卷积层网络存储在codegen文件夹中。

建立图书馆,将生成的代码移动到手臂目标平台和使用生成的makefilecnnbuild_rtw.mk。

输入参数

全部折叠

`净`- - - - - -Pretrained深入学习网络对象
特征向量|字符串标量

PretrainedSeriesNetwork或DAGNetwork对象。

请注意

cnncodegen不支持金宝appdlnetwork对象。

`targetparams`- - - - - -特有的参数
结构

臂计算方式指定为一个参数1——- - - - - -1包含这些表中描述字段的结构。

场	描述
`ArmComputeVersion`	版本的手臂计算库在目标硬件,指定为`“19.02”`或`“19.05”`。默认值是`“19.05”`。如果你设置`ArmComputeVersion`晚于一个版本`“19.05”`,`ArmComputeVersion`被设置为`“19.05”`。

版本历史

介绍了R2017b

全部展开

R2021a:更改目标库支持金宝app

从R2021b,cnncodegen函数生成c++代码和makefile构建一个静态库只手臂马里GPU处理器通过使用手臂计算库为计算机视觉和机器学习。

对于所有其他目标,使用codegen命令。用MATLAB写一个入口点函数^®使用coder.loadDeepLearningNetwork并调用函数加载一个深度学习模型预测(深度学习工具箱)预测的响应。例如,

函数= googlenet_predict(中)% # codegen持续的mynet;如果isempty (mynet) mynet = coder.loadDeepLearningNetwork (“googlenet”);结束%通过输入=预测(mynet,);

这个表显示的一些典型用法cnncodegen和如何更新你的代码来使用codegen代替。

目标工作流程不推荐推荐

目标工作流程	不推荐	推荐
手臂CPU处理器支持金宝app`霓虹灯`指令	设置`“targetlib”`参数`“arm-compute”`。指定部门计算库版本来生成代码和ARM架构在目标硬件使用`“targetparams”`参数。 cnncodegen(净,“targetlib”…,“arm-compute”,“targetparams”…结构(“ArmComputeVersion”…,“19.02”,“ArmArchitecture”…,“armv8”)) 其他受支持版金宝app本的手臂计算库`“18.11”`,`“19.02”`,`“19.05”`,或`“20.02.1”`。默认值是`“20.02.1”`。如果你设置`ArmComputeVersion`晚于一个版本`“20.02.1”`,`ArmComputeVersion`被设置为`“20.02.1”` 您可以指定ARM体系结构`“v7`或`“armv8”`。指定的架构必须与ARM的体系结构计算库在目标硬件。	创建一个`coder.config`配置对象生成一个静态的图书馆。 cfg = coder.config (“自由”);cfg。TargetLang =“c++”; 创建一个`coder.ARMNEONConfig`深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到`DeepLearningConfig`财产的`cfg`配置对象。 dlcfg = coder.DeepLearningConfig…(“arm-compute”);dlcfg。ArmArchitecture =“armv8”;dlcfg。ArmComputeVersion =“19.02”;cfg。DeepLearningConfig = dlcfg; 使用`配置`选择的`codegen`函数来指定`cfg`配置对象。的`codegen`函数必须确定大小、阶级和MATLAB函数输入的复杂性。使用`arg游戏`选择指定的大小的入口点函数的输入。 arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict 有关更多信息,请参见代码生成与臂计算深度学习网络图书馆。
英伟达^®使用CUDA gpu^®深层神经网络库(cuDNN)	设置`“targetlib”`参数`“cudnn”`。通过使用指定cuDNN的特有属性`“targetparams”`参数。 cnncodegen(净,“targetlib”…,“cudnn”,“ComputeCapability”…,“7.0”,“targetparams”…结构(自动调谐的,真正的…,“数据类型”,“INT8”…,“CalibrationResultFile”…“myInt8Cal.mat”)) 自动调谐特性允许cuDNN图书馆找到最快的卷积算法。的`“数据类型”`参数指定精度的推理计算支持层。金宝app在32位浮点数进行推理时,使用`“FP32”`。	创建一个`coder.gpuConfig`配置对象生成一个静态的图书馆。 cfg = coder.gpuConfig (“自由”);cfg。TargetLang =“c++”; 设置最低计算代码生成功能,使用`ComputeCapability`GPU代码配置对象的属性。 cfg.GpuConfig。ComputeCapability =“7.0”; 创建一个`coder.CuDNNConfig`深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到`DeepLearningConfig`财产的`cfg`配置对象。 dlcfg = coder.DeepLearningConfig (“cudnn”);dlcfg。自动调谐= true;dlcfg。数据类型=“int8”;dlcfg。CalibrationResultFile =“myInt8Cal.mat”;cfg。DeepLearningConfig = dlcfg; 使用`配置`选择的`codegen`函数来指定`cfg`配置对象。的`codegen`函数必须确定大小、阶级和MATLAB函数输入的复杂性。使用`arg游戏`选择指定的大小的入口点函数的输入。 arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict 有关更多信息,请参见通过使用cuDNN代码生成深度学习网络。
英特尔^®CPU处理器	使用英特尔数学内核库深层神经网络(MKL-DNN)英特尔cpu,设置`“targetlib”`参数`“mkldnn”`。 cnncodegen(净,“targetlib”…,“mkldnn”);	创建一个`coder.config`配置对象生成一个静态的图书馆。 cfg = coder.config (“自由”);cfg。TargetLang =“c++”; 创建一个`coder.MklDNNConfig`深度学习配置对象。分配到`DeepLearningConfig`财产的`cfg`配置对象。 dlcfg = coder.DeepLearningConfig…(“mkldnn”);cfg。DeepLearningConfig = dlcfg; 使用`配置`选择的`codegen`函数来指定`cfg`配置对象。的`codegen`函数必须确定大小、阶级和MATLAB函数输入的复杂性。使用`arg游戏`选择指定的大小的入口点函数的输入。 arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict 有关更多信息,请参见代码生成与MKL-DNN深度学习网络。
NVIDIA gpu通过使用NVIDIA TensorRT™,高性能深度学习推理优化器和运行时库	设置`“targetlib”`参数`“tensorrt”`。通过使用指定TensorRT的特有属性`“targetparams”`参数。 cnncodegen(净,“targetlib”…,“tensorrt”,“ComputeCapability”…,“7.0”,“targetparams”…结构(“数据类型”,“INT8”…DataPath公司的,“image_dataset”…,“NumCalibrationBatches”,50))	创建一个`coder.gpuConfig`配置对象生成一个静态的图书馆。 cfg = coder.gpuConfig (“自由”);cfg。TargetLang =“c++”; 设置最低计算代码生成功能,使用`ComputeCapability`GPU代码配置对象的属性。 cfg.GpuConfig。ComputeCapability =“7.0”; 创建一个`coder.TensorRTConfig`深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到`DeepLearningConfig`财产的`cfg`配置对象。 dlcfg = coder.DeepLearningConfig…(“cudnn”);dlcfg。数据类型=“int8”;dlcfg。DataPath公司=“image_dataset”;dlcfg。NumCalibrationBatches = 50;cfg。DeepLearningConfig = dlcfg; 使用`配置`选择的`codegen`函数来指定`cfg`配置对象。的`codegen`函数必须确定大小、阶级和MATLAB函数输入的复杂性。使用`arg游戏`选择指定的大小的入口点函数的输入。 arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict 有关更多信息,请参见深度学习预测与NVIDIA TensorRT图书馆。
一般选择	没有生成代码生成和构建一个makefile。例如, cnncodegen(净,“targetlib”…,“mkldnn”,“codegenonly”1);	产生源代码没有调用make命令或构建对象代码,使用`GenCodeOnly`财产的`coder.CodeConfig`或`coder.GPUCodeConfig`对象。例如, cfg = coder.codeConfig (“自由”);cfg。GenCodeOnly = true;
指定编译的NVIDIA GPU计算能力。参数需要的格式`主要# .minor #`。 cnncodegen(净,“targetlib”…,“cudnn”,“ComputeCapability”,“7.0”);	设置最低计算代码生成功能,使用`ComputeCapability`GPU代码配置对象的属性。 cfg = coder.gpuConfig (“自由”);cfg.GpuConfig。ComputeCapability =“7.0”;

手臂CPU处理器支持金宝app霓虹灯指令

设置“targetlib”参数“arm-compute”。指定部门计算库版本来生成代码和ARM架构在目标硬件使用“targetparams”参数。

cnncodegen(净,“targetlib”…,“arm-compute”,“targetparams”…结构(“ArmComputeVersion”…,“19.02”,“ArmArchitecture”…,“armv8”))

其他受支持版金宝app本的手臂计算库“18.11”,“19.02”,“19.05”,或“20.02.1”。默认值是“20.02.1”。如果你设置ArmComputeVersion晚于一个版本“20.02.1”,ArmComputeVersion被设置为“20.02.1”

您可以指定ARM体系结构“v7或“armv8”。指定的架构必须与ARM的体系结构计算库在目标硬件。

创建一个coder.config配置对象生成一个静态的图书馆。

cfg = coder.config (“自由”);cfg。TargetLang =“c++”;

创建一个coder.ARMNEONConfig深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到DeepLearningConfig财产的cfg配置对象。

dlcfg = coder.DeepLearningConfig…(“arm-compute”);dlcfg。ArmArchitecture =“armv8”;dlcfg。ArmComputeVersion =“19.02”;cfg。DeepLearningConfig = dlcfg;

使用配置选择的codegen函数来指定cfg配置对象。的codegen函数必须确定大小、阶级和MATLAB函数输入的复杂性。使用arg游戏选择指定的大小的入口点函数的输入。

arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict

有关更多信息,请参见代码生成与臂计算深度学习网络图书馆。

英伟达^®使用CUDA gpu^®深层神经网络库(cuDNN)

设置“targetlib”参数“cudnn”。通过使用指定cuDNN的特有属性“targetparams”参数。

cnncodegen(净,“targetlib”…,“cudnn”,“ComputeCapability”…,“7.0”,“targetparams”…结构(自动调谐的,真正的…,“数据类型”,“INT8”…,“CalibrationResultFile”…“myInt8Cal.mat”))

自动调谐特性允许cuDNN图书馆找到最快的卷积算法。

的“数据类型”参数指定精度的推理计算支持层。金宝app在32位浮点数进行推理时,使用“FP32”。

创建一个coder.gpuConfig配置对象生成一个静态的图书馆。

cfg = coder.gpuConfig (“自由”);cfg。TargetLang =“c++”;

设置最低计算代码生成功能,使用ComputeCapabilityGPU代码配置对象的属性。

cfg.GpuConfig。ComputeCapability =“7.0”;

创建一个coder.CuDNNConfig深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到DeepLearningConfig财产的cfg配置对象。

dlcfg = coder.DeepLearningConfig (“cudnn”);dlcfg。自动调谐= true;dlcfg。数据类型=“int8”;dlcfg。CalibrationResultFile =“myInt8Cal.mat”;cfg。DeepLearningConfig = dlcfg;

arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict

有关更多信息,请参见通过使用cuDNN代码生成深度学习网络。

英特尔^®CPU处理器

使用英特尔数学内核库深层神经网络(MKL-DNN)英特尔cpu,设置“targetlib”参数“mkldnn”。

cnncodegen(净,“targetlib”…,“mkldnn”);

创建一个coder.config配置对象生成一个静态的图书馆。

cfg = coder.config (“自由”);cfg。TargetLang =“c++”;

创建一个coder.MklDNNConfig深度学习配置对象。分配到DeepLearningConfig财产的cfg配置对象。

dlcfg = coder.DeepLearningConfig…(“mkldnn”);cfg。DeepLearningConfig = dlcfg;

arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict

有关更多信息,请参见代码生成与MKL-DNN深度学习网络。

NVIDIA gpu通过使用NVIDIA TensorRT™,高性能深度学习推理优化器和运行时库

设置“targetlib”参数“tensorrt”。通过使用指定TensorRT的特有属性“targetparams”参数。

cnncodegen(净,“targetlib”…,“tensorrt”,“ComputeCapability”…,“7.0”,“targetparams”…结构(“数据类型”,“INT8”…DataPath公司的,“image_dataset”…,“NumCalibrationBatches”,50))

创建一个coder.gpuConfig配置对象生成一个静态的图书馆。

cfg = coder.gpuConfig (“自由”);cfg。TargetLang =“c++”;

设置最低计算代码生成功能,使用ComputeCapabilityGPU代码配置对象的属性。

cfg.GpuConfig。ComputeCapability =“7.0”;

创建一个coder.TensorRTConfig深度学习配置对象。指定目标深度学习配置对象的特有属性。分配到DeepLearningConfig财产的cfg配置对象。

dlcfg = coder.DeepLearningConfig…(“cudnn”);dlcfg。数据类型=“int8”;dlcfg。DataPath公司=“image_dataset”;dlcfg。NumCalibrationBatches = 50;cfg。DeepLearningConfig = dlcfg;

arg = {(224224 3“单一”)};codegenarg游戏参数…配置cfggooglenet_predict

有关更多信息,请参见深度学习预测与NVIDIA TensorRT图书馆。

一般选择

没有生成代码生成和构建一个makefile。例如,

cnncodegen(净,“targetlib”…,“mkldnn”,“codegenonly”1);

产生源代码没有调用make命令或构建对象代码,使用GenCodeOnly财产的coder.CodeConfig或coder.GPUCodeConfig对象。例如,

cfg = coder.codeConfig (“自由”);cfg。GenCodeOnly = true;

指定编译的NVIDIA GPU计算能力。参数需要的格式主要# .minor #。

cnncodegen(净,“targetlib”…,“cudnn”,“ComputeCapability”,“7.0”);

设置最低计算代码生成功能,使用ComputeCapabilityGPU代码配置对象的属性。

cfg = coder.gpuConfig (“自由”);cfg.GpuConfig。ComputeCapability =“7.0”;

另请参阅

功能

codegen|coder.loadDeepLearningNetwork

cnncodegen

语法

描述

例子

生成c++代码Pretrained网络运行在ARM处理器

输入参数

净- - - - - -Pretrained深入学习网络对象特征向量|字符串标量

targetparams- - - - - -特有的参数结构

版本历史

R2021a:更改目标库支持金宝app

另请参阅

功能

主题

`净`- - - - - -Pretrained深入学习网络对象
特征向量|字符串标量

`targetparams`- - - - - -特有的参数
结构