从Keras网络导入层
下载并安装TensorFlow模型的深度学习工具箱转换器支持包。金宝app
类型importKerasLayers
在命令行。
importKerasLayers
如果没有安装用于TensorFlow模型的深度学习工具箱转换器支持包,则该函数将在Add-On资源管理器中提供到所需支持包金宝app的链接。要安装支持包,请单击链接,然后金宝app单击安装.通过从模型文件导入图层,检查安装是否成功“digitsDAGnet.h5”
在命令行。如果安装了所需的支持包,则函数返金宝app回LayerGraph
对象。
modelfile =“digitsDAGnet.h5”;net = importKerasLayers(modelfile)
net = LayerGraph with properties: Layers: [13x1 nnet.cnn.layer.Layer] Connections: [13x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
从模型文件导入网络层digitsDAGnet.h5
.
modelfile =“digitsDAGnet.h5”;layers = importKerasLayers(modelfile)
layers = LayerGraph with properties: layers: [13x1 nnet.cnn.layer.Layer] Connections: [13x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
绘制网络架构图。
情节(层)
指定要导入的网络文件。
modelfile =“digitsDAGnet.h5”;
导入网络层。
layers = importKerasLayers(modelfile)
layers = LayerGraph with properties: layers: [13x1 nnet.cnn.layer.Layer] Connections: [13x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
加载数据集以训练分类器识别新数字。
文件夹= fullfile(toolboxdir(“nnet”),“nndemos”,“nndatasets”,“DigitDataset”);imds = imageDatastore(文件夹,...“IncludeSubfolders”,真的,...“LabelSource”,“foldernames”);
将数据集划分为训练集和测试集。
numTrainFiles = 750;[imdsTrain,imdsTest] = splitEachLabel(imds,numTrainFiles,“随机”);
设置培训选项。
选项= trainingOptions(“个”,...“MaxEpochs”10...“InitialLearnRate”, 0.001);
使用训练数据训练网络。
net = trainNetwork(imdsTrain,layers,options);
单CPU训练。|========================================================================================| | 时代| |迭代时间| Mini-batch | Mini-batch |基地学习 | | | | ( hh: mm: ss) | | |丧失准确性 | |========================================================================================| | 1 | 1 | 00:00:01 | 15.62% | 12.6982 | 0.0010 | | 1 | 50 | 00:00:17 | 63.28% | 1.2109 | 0.0010 | | 2 | 100 | 00:00:34 | 85.16% | 0.4193 | 0.0010 | | 3 | 150 | 00:00:51 | | 0.1749 | 0.0010 96.88%||4 | 200 | 00:01:06 | 99.22% | 0.0457 | 0.0010 | | 5 | 250 | 00:01:19 | 100.00% | 0.0374 | 0.0010 | | 6 | 300 | 00:01:34 | 96.88% | 0.1223 | 0.0010 | | 7 | 350 | 00:01:50 | 100.00% | 0.0087 | 0.0010 | | 7 | 400 | 00:02:04 | 100.00% | 0.0166 | 0.0010 | | 8 | 450 | 00:02:20 | 100.00% | 0.0098 | 0.0010 | | 9 | 500 | 00:02:38 | 100.00% | 0.0047 | 0.0010 | | 10 | 550 | 00:03:03 | 100.00% | 0.0031 | 0.0010 | | 10 | 580 | 00:03:13 | 100.00% | 0.0059 | 0.0010 | |========================================================================================| Training finished: Max epochs completed.
在未用于训练网络的测试集上运行训练好的网络,并预测图像标签(数字)。
YPred = category (net,imdsTest);YTest = imdsTest.Labels;
计算精度。
精度= sum(YPred == YTest)/numel(YTest)
准确度= 0.9856
指定要从中导入层和权重的网络文件。
modelfile =“digitsDAGnet.h5”;
从指定的文件中导入网络体系结构和权重。要导入层权重,请指定“ImportWeights”
是真正的
.该函数还从相同的HDF5文件中导入具有权重的层。
layers = importKerasLayers(模型文件,“ImportWeights”,真正的)
layers = LayerGraph with properties: layers: [13x1 nnet.cnn.layer.Layer] Connections: [13x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
查看第二层权重的大小。
weights = layers.Layers(2).Weights;大小(重量)
ans =1×47 7 1 20
该函数导入了权重,因此层权重是非空的。
指定要从中导入层的网络文件和包含权重的文件。
modelfile =“digitsDAGnet.json”;重量=“digitsDAGnet.weights.h5”;
从指定的文件中导入网络体系结构和权重。json文件不包括输出层。指定输出层,以便importKerasLayers在网络体系结构的末尾添加一个输出层。
layers = importKerasLayers(模型文件,...“ImportWeights”,真的,...“WeightFile”权重,...“OutputLayerType”,“分类”)
layers = LayerGraph with properties: layers: [13x1 nnet.cnn.layer.Layer] Connections: [13x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
这个示例展示了如何从预训练的Keras网络导入层,用自定义层替换不支持的层,并将这些层组装成一个网络,以便进行预测。金宝app
导入Keras网络
从Keras网络模型导入层。美国的网络“digitsDAGnetwithnoise.h5”
对数字图像进行分类。
文件名=“digitsDAGnetwithnoise.h5”;lgraph = importKerasLayers(文件名,“ImportWeights”,真正的);
警告:无法导入一些Keras层,因为深度学习工具箱不支持它们。金宝app它们已被占位符层所取代。为了找到这些层,在返回的对象上调用findPlaceholderLayers函数。
Keras网络包含一些深度学习工具箱不支持的层。金宝app的importKerasLayers
函数显示警告并将不支持的层替换为占位符层。金宝app
绘制层图使用情节
.
图表(lgraph)标题(“进口网络”)
替换占位符图层
要替换占位符层,首先确定要替换的层的名称。找到占位符层使用findPlaceholderLayers
.
placeholderLayers = findPlaceholderLayers(lgraph)
1' gaussian_noise_1' PLACEHOLDER LAYER 'GaussianNoise' Keras LAYER 2' gaussian_noise_2' PLACEHOLDER LAYER 'GaussianNoise' Keras层的占位符
显示这些层的Keras配置。
placeholderLayers。KerasConfiguration
ans =带字段的结构:可训练:1名:'gaussian_noise_1' stddev: 1.5000
ans =带字段的结构:可训练:1名:'gaussian_noise_2' stddev: 0.7000
定义一个自定义高斯噪声层。要创建这个图层,保存文件gaussianNoiseLayer.m
在当前文件夹中。然后,创建两个高斯噪声层,与导入的Keras层配置相同。
gnLayer1 = gaussianNoiseLayer(1.5,“new_gaussian_noise_1”);gnLayer2 = gaussianNoiseLayer(0.7,“new_gaussian_noise_2”);
使用自定义层替换占位符层replaceLayer
.
lgraph =替换层(lgraph,“gaussian_noise_1”, gnLayer1);lgraph =替换层(lgraph,“gaussian_noise_2”, gnLayer2);
绘制更新后的图层图情节
.
图表(lgraph)标题(“替换层的网络”)
指定类名
如果导入的分类层不包含类,则必须在预测之前指定这些类。如果您没有指定类,那么软件将自动将类设置为1
,2
、……N
,在那里N
是类的数量。
属性来查找分类层的索引层
层图的属性。
lgraph。层
ans = 15x1带有图层的图层数组:1“input_1”图像输入28 x28x1图片2的conv2d_1卷积20 7 x7x1旋转步[1]和填充“相同”3“conv2d_1_relu”ReLU ReLU 4 conv2d_2的卷积20 3 x3x1旋转步[1]和填充“相同”5“conv2d_2_relu”ReLU ReLU 6 new_gaussian_noise_1高斯噪声的高斯噪声标准差为1.5 7 new_gaussian_noise_2高斯噪声的高斯噪声标准差为0.7 8“max_pooling2d_1”马克斯池2 x2马克斯2[2]和池与进步padding 'same' 9 'max_pooling2d_2' Max Pooling 2x2 Max Pooling with stride[2 2]和padding 'same' 10 ' flat_1 ' Keras Flatten Flatten activation into 1-D假设C-style (row-major) order 11 ' flat_2 ' Keras Flatten Flatten activation into 1-D假设C-style (row-major) order 12 'concatenate_1' Depth concatenate_1' 2个输入的深度连接13 'dense_1' Fully Connected 10 Fully Connected layer 14 'activation_1' Softmax Softmax 15 'ClassificationLayer_activation_1' Classification输出crossentropyex
分类层有名称“ClassificationLayer_activation_1”
.查看分类层,检查类
财产。
cLayer = lgraph.Layers(end)
cLayer = ClassificationOutputLayer与属性:名称:'ClassificationLayer_activation_1'类:'auto' ClassWeights: 'none' OutputSize: 'auto'超参数LossFunction: 'crossentropyex'
因为类
层的属性为“汽车”
时,必须手动指定类。将类设置为0
,1
、……9
,然后将导入的分类层替换为新的分类层。
粘土。class = string(0:9)
cLayer = ClassificationOutputLayer与属性:名称:'ClassificationLayer_activation_1'类:[0 1 2 3 4 5 6 7 8 9]ClassWeights: 'none' OutputSize: 10超参数LossFunction: 'crossentropyex'
lgraph =替换层(lgraph,“ClassificationLayer_activation_1”、粘土);
组装网络
使用组合图层图assembleNetwork
.函数返回一个DAGNetwork
对象,该对象已准备用于预测。
net =汇编网络(lgraph)
net = DAGNetwork with properties: Layers: [15x1 nnet.cnn.layer.Layer] Connections: [15x2 table] InputNames: {'input_1'} OutputNames: {'ClassificationLayer_activation_1'}
从具有参数校正线性单元(PReLU)层的Keras网络导入层。
PReLU层执行阈值操作,其中对于每个通道,任何小于零的输入值都乘以一个标量。PReLU操作由
在哪里 输入是非线性激活吗 频道 , 是控制负部分斜率的缩放参数。下标 在 表示该参数可以是一个矢量,并且非线性激活可以在不同的通道上变化。
importKerasNetwork
而且importKerasLayers
可以导入包含PReLU层的网络。这些函数同时支持标量值和矢量值缩金宝app放参数。如果缩放参数是一个向量,则函数用向量元素的平均值替换该向量。您可以在导入后修改PReLU层以具有矢量值缩放参数。
指定要导入的网络文件。
modelfile =“digitsDAGnetwithPReLU.h5”;
digitsDAGnetwithPReLU
包括两个PReLU层。一个有一个标量值的缩放参数,另一个有一个矢量值的缩放参数。
导入网络体系结构和权重modelfile
.
layers = importKerasLayers(模型文件,“ImportWeights”,真正的);
警告:“p_re_lu_1”层是一个PReLU层,参数为向量值。该函数将参数替换为向量元素的平均值。您可以在导入后将参数更改为向量。
的importKerasLayers
函数显示PReLu层的警告p_re_lu_1
.的向量值缩放参数p_re_lu_1
用向量元素的平均值。您可以将参数更改为向量。首先,查看PReLU层的索引层
财产。
层。层
ans = 13x1带有图层的图层数组:1“input_1”图像输入28 x28x1图片2的conv2d_1卷积20 7 x7x1旋转步[1]和填充“相同”3“conv2d_2”卷积20 3 x3x1旋转步[1]和填充“相同”4“p_re_lu_1”PReLU PReLU层5‘p_re_lu_2 PReLU PReLU层6“max_pooling2d_1”马克斯池2 x2马克斯池步(2 - 2)和填充“相同”7“max_pooling2d_2”马克斯池2 x2马克斯池步(2 - 2)和填充“相同”8 ' flatten_1 Keras平压平激活成一维假设C-style (row-major) order 9 ' flat_2 ' Keras Flatten将激活Flatten成1-D假设C-style (row-major) order 10 'concatenate_1'深度连接2个输入的深度连接11 'dense_1'全连接10全连接层12 'dense_1_softmax' Softmax Softmax 13 'ClassificationLayer_dense_1'分类输出crossentropyex
层
有两个PReLU层。提取第四层p_re_lu_1
,它最初为通道维度提供了一个向量值缩放参数。
tempLayer = layers.Layers
tempLayer = PreluLayer with properties: Name: 'p_re_lu_1' RawAlpha: [20x1 single] learable Parameters Alpha: 0.0044 State Parameters无属性。显示所有属性
的RawAlpha
属性包含向量值缩放参数,而α
属性包含一个标量,该标量是向量值的元素平均值。重塑RawAlpha
将向量值放在第三维,这对应于通道维度。然后,取代α
通过重塑RawAlpha
值。
tempLayer。α=reshape(tempLayer.RawAlpha,[1,1,numel(tempLayer.RawAlpha)])
tempLayer = PreluLayer with properties: Name: 'p_re_lu_1' RawAlpha: [20x1 single] Learnable Parameters Alpha: [1x1x20 single] State Parameters无属性。显示所有属性
取代p_re_lu_1
层层
与tempLayer
.
图层=替换图层(图层,“p_re_lu_1”, tempLayer);layers.Layers (4)
ans = PreluLayer with properties: Name: 'p_re_lu_1' RawAlpha: [20x1 single] Learnable Parameters Alpha: [1x1x20 single] State Parameters无属性。显示所有属性
现在,p_re_lu_1
层有一个矢量值缩放参数。
modelfile
- - - - - -Keras模型文件的名称包含网络体系结构的模型文件的名称,可能还包括权重,指定为字符向量或字符串标量。该文件必须在当前文件夹中,在MATLAB的文件夹中®路径,或者必须包含文件的完整路径或相对路径。
如果modelfile
包括
网络结构和权重,那么它必须在HDF5 (.h5
)的格式。
只有网络架构,那么它可以在HDF5或JSON (. json
)的格式。
如果modelfile
方法只包含网络体系结构,然后可以选择地提供权重“ImportWeights”
而且“WeightFile”
名称-值对参数。如果您提供权重,则权重文件必须是HDF5格式。
例子:“digitsnet.h5”
数据类型:字符
|字符串
的可选逗号分隔对名称,值
参数。的名字
参数名称和价值
对应的值。的名字
必须出现在引号内。您可以以任意顺序指定多个名称和值对参数Name1, Value1,…,的家
.
importKerasLayers (modelfile“OutputLayerType”、“分类”)
从模型文件导入网络层modelfile
并在Keras层的末尾添加了一个用于分类问题的输出层。
OutputLayerType
- - - - - -输出层类型“分类”
|“回归”
|“pixelclassification”
时函数附加到导入网络体系结构末尾的输出层类型modelfile
没有指定损失函数,指定为“分类”
,“回归”
,或“pixelclassification”
.附加一个pixelClassificationLayer
(计算机视觉工具箱)对象需要计算机视觉工具箱™。
如果一个网络modelfile
有多个输出,则不能使用此参数指定输出层类型。importKerasLayers
为输出插入占位符层。导入后,您可以通过使用查找并替换占位符层findPlaceholderLayers
而且replaceLayer
,分别。
例子:“OutputLayerType”、“回归”
ImageInputSize
- - - - - -输入图像的大小输入图像的大小为网络,指定为两个或三个矢量对应的数值(高度、宽度)
对于灰度图像和(高度、宽度、渠道)
分别用于彩色图像。网络使用此信息时modelfile
不指定输入大小。
如果一个网络modelfile
有多个输入,则不能使用此参数指定输入大小。importKerasLayers
为输入插入占位符层。导入后,您可以通过使用查找并替换占位符层findPlaceholderLayers
而且replaceLayer
,分别。
例子:“ImageInputSize”,[28 28]
ImportWeights
- - - - - -导入权重的指示器假
(默认)|真正的指示器导入权重和网络体系结构,指定为任意一种假
或真正的
.
如果“ImportWeights”
是真正的
而且modelfile
包括权重importKerasLayers
从modelfile
,它必须有HDF5 (.h5
)的格式。
如果“ImportWeights”
是真正的
而且modelfile
不包括权重,则必须指定包含权重的单独文件,使用“WeightFile”
名称-值对参数。
例子:“ImportWeights”,真的
数据类型:逻辑
WeightFile
- - - - - -权重文件名权重文件名,当从该文件名导入权重时modelfile
不包括作为字符向量或字符串标量指定的权重。要使用此名称-值对参数,还必须设置“ImportWeights”
来真正的
.
权重文件必须在当前文件夹中,在MATLAB路径下的文件夹中,或者必须包含文件的完整或相对路径。
例子:“WeightFile”、“weights.h5”
数据类型:字符
|字符串
层
—网络架构层
数组对象|LayerGraph
对象网络体系结构,返回为层
当Keras网络为type时,数组对象顺序
,或返回为LayerGraph
当Keras网络为type时,对象模型
.
importKerasLayers
金宝app支持以下TensorFlow-Keras版本:
该函数完全支持TensorFlow-K金宝apperas 2.2.4版本。
该函数对TensorFlow-Keras 2.2.5到2金宝app.4.0版本提供有限的支持。
importKerasLayers
金宝app支持以下TensorFlow-Keras层类型转换为内置的MATLAB层,但有一些限制。
TensorFlow-Keras层 | 对应的深度学习工具箱层 |
---|---|
添加 |
additionLayer |
|
层: |
先进的激活:
|
层:
|
AveragePooling1D |
averagePooling1dLayer 与PaddingValue 指定为“的意思是” |
AveragePooling2D |
averagePooling2dLayer 与PaddingValue 指定为“的意思是” |
BatchNormalization |
batchNormalizationLayer |
双向(LSTM (__)) |
bilstmLayer |
连接 |
depthConcatenationLayer |
Conv1D |
convolution1dLayer |
Conv2D |
convolution2dLayer |
Conv2DTranspose |
transposedConv2dLayer |
CuDNNGRU |
gruLayer |
CuDNNLSTM |
lstmLayer |
密集的 |
fullyConnectedLayer |
DepthwiseConv2D |
groupedConvolution2dLayer |
辍学 |
dropoutLayer |
嵌入 |
wordEmbeddingLayer (文本分析工具箱) |
平 |
nnet.keras.layer.FlattenCStyleLayer |
GlobalAveragePooling1D |
globalAveragePooling1dLayer |
GlobalAveragePooling2D |
globalAveragePooling2dLayer |
GlobalMaxPool1D |
globalMaxPooling1dLayer |
GlobalMaxPool2D |
globalMaxPooling2dLayer |
格勒乌 |
gruLayer |
输入 |
imageInputLayer ,sequenceInputLayer ,或featureInputLayer |
LSTM |
lstmLayer |
MaxPool1D |
maxPooling1dLayer |
MaxPool2D |
maxPooling2dLayer |
乘 |
multiplicationLayer |
SeparableConv2D |
groupedConvolution2dLayer 或convolution2dLayer |
TimeDistributed |
sequenceFoldingLayer 在包裹层之前,和sequenceUnfoldingLayer 在包裹层之后 |
UpSampling2D |
resize2dLayer (图像处理工具箱) |
UpSampling3D |
resize3dLayer (图像处理工具箱) |
ZeroPadding1D |
nnet.keras.layer.ZeroPadding1DLayer |
ZeroPadding2D |
nnet.keras.layer.ZeroPadding2DLayer |
*对于PReLU层,importKerasLayers
将向量值的缩放参数替换为向量元素的平均值。您可以在导入后将参数更改为向量。有关示例,请参见导入Keras PReLU图层.
importKerasLayers
金宝app支持以下Keras损失函数:
mean_squared_error
categorical_crossentropy
sparse_categorical_crossentropy
binary_crossentropy
importKerasLayers
不会在GPU上执行。然而,importKerasLayers
导入深度学习预训练神经网络的层层
数组或LayerGraph
对象,你可以在GPU上使用。
将导入的图层转换为aDAGNetwork
对象,使用assembleNetwork
.在DAGNetwork
对象,然后您可以通过使用预测CPU或GPU上的类标签分类
.使用name-value参数指定硬件需求ExecutionEnvironment
.对于具有多个输出的网络,使用预测
函数并指定名称-值参数ReturnCategorical
作为真正的
.
转换导入的LayerGraph
对象的dlnetwork
对象,使用dlnetwork
.在dlnetwork
对象,然后您可以通过使用预测CPU或GPU上的类标签预测
.这个函数预测
如果输入数据或网络参数存储在GPU上,则在GPU上执行。
如果你使用minibatchqueue
要处理和管理输入数据的小批,可以使用minibatchqueue
如果GPU可用,对象默认将输出转换为GPU数组。
使用dlupdate
转换a的可学习参数dlnetwork
对象到GPU数组。
Dlnet = dlupdate(@gpuarray, Dlnet)
可以在CPU或GPU上训练导入的层trainNetwork
.若要指定培训选项,包括用于执行环境的选项,请使用trainingOptions
函数。使用name-value参数指定硬件需求ExecutionEnvironment
.有关如何加速训练的更多信息,请参见并行、gpu和云中扩展深度学习.
使用GPU需要并行计算工具箱™和受支持的GPU设备。金宝app有关受支持设备的信息,请参见金宝appGPU支金宝app持版本(并行计算工具箱).
如果网络中包含一层TensorFlow模型的深度学习工具箱转换器不支持(参见金宝app金宝app支持的Keras层),然后importKerasLayers
在不受支持的层中插入一个占位符层。金宝app要查找网络中不支持的层的名称和索引,请使用金宝appfindPlaceholderLayers
函数。然后,您可以将占位符层替换为您定义的新层。要替换一个图层,请使用replaceLayer
.
您可以用您定义的新层替换占位符层。
如果网络是串联网络,则直接替换阵列中的层。例如,层(2)=新层;
.
如果网络是DAG网络,则使用replaceLayer
.有关示例,请参见从预训练的Keras层组装网络.
您可以导入具有多输入多输出(MIMO)的Keras网络。使用importKerasNetwork
如果网络包含输入的输入大小信息和输出的损失信息。否则,使用importKerasLayers
.的importKerasLayers
函数为输入和输出插入占位符层。导入后,您可以通过使用查找并替换占位符层findPlaceholderLayers
而且replaceLayer
,分别。导入MIMO Keras网络的流程与导入MIMO ONNX™网络的流程相同。有关示例,请参见导入和组装多输出ONNX网络.要了解具有多个输入和多个输出的深度学习网络,请参见多输入多输出网络.
要使用预训练的网络对新图像进行预测或迁移学习,您必须以与用于训练导入模型的图像预处理相同的方式对图像进行预处理。最常见的预处理步骤是调整图像大小,减去图像平均值,并将图像从BGR图像转换为RGB。
有关用于训练和预测的图像预处理的更多信息,请参见用于深度学习的图像预处理.
使用importKerasNetwork
或importKerasLayers
导入HDF5或JSON格式的TensorFlow-Keras网络。如果TensorFlow网络是保存的模型格式,请使用importTensorFlowNetwork
或importTensorFlowLayers
.
如果你导入了一个自定义的TensorFlow-Keras层,或者如果软件不能将TensorFlow-Keras层转换成等效的内置MATLAB层,你可以使用importTensorFlowNetwork
或importTensorFlowLayers
,它们试图生成一个自定义层。例如,importTensorFlowNetwork
而且importTensorFlowLayers
当你导入TensorFlow-Keras时,生成一个自定义层λ
层。
[1]Keras: Python深度学习库.https://keras.io.
importCaffeNetwork
|findPlaceholderLayers
|importKerasNetwork
|replaceLayer
|importCaffeLayers
|assembleNetwork
|exportONNXNetwork
|importONNXLayers
|importONNXNetwork
|importTensorFlowNetwork
|importTensorFlowLayers
Tiene una versión modificada de este ejemplo。¿Desea abrir este ejemplo con sus modificaciones?
Ha hecho clic en unenlace que对应一个este commando de MATLAB:
弹射突击队introduciéndolo en la ventana de commandos de MATLAB。Los navegadores web no permission comandos de MATLAB。
您也可以从以下列表中选择一个网站:
选择中国站点(中文或英文)以获得最佳站点性能。其他MathWorks国家站点没有针对您所在位置的访问进行优化。