主要内容

analyzeNetwork

分析深度学习网络架构

描述

使用analyzeNetwork要可视化和理解网络的体系结构,请检查您是否正确定义了体系结构,并在培训前检测问题analyzeNetwork检测包括缺失或未连接的层、错误大小的层输入、错误数量的层输入和无效的图结构。

提示

要以交互方式可视化、分析和训练网络,请使用deepNetworkDesigner(net).有关更多信息,请参见深层网络设计师

训练网络

实例

analyzeNetwork ()分析了系列网络DAGNetwork对象.该功能以交互式的方式显示网络架构,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

网络层

实例

analyzeNetwork ()分析中指定的网络层也可以检测错误和问题列车网络工作流程。可以是一个数组或一个分层图对象。该功能以交互式的方式显示网络架构,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

实例

analyzeNetwork (“TargetUsage”,目标)分析中指定的网络层用于指定的目标工作流。在分析a时使用此语法数组或层图dlnetwork工作流程。

analyzeNetwork (,dlX1,…,dlXn,'TargetUsage','dlnetwork')使用示例网络输入分析网络层dlX1,…,dlXn.该软件通过网络传播示例输入,以确定层激活、可学习参数和状态参数的数量和大小。使用此语法可以分析具有一个或多个未连接到输入层的输入的网络。

dlnetwork物体

analyzeNetwork (dlnet)分析了dlnetwork对象,用于自定义训练循环工作流。该功能显示网络体系结构的交互式可视化,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

analyzeNetwork (dlnet,dlX1,…,dlXn)分析了dlnetwork对象使用示例网络输入dlX1,…,dlXn.该软件通过网络传播示例输入,以确定层激活、可学习参数和状态参数的数量和大小。使用此语法分析未初始化的dlnetwork具有一个或多个未连接到输入层的输入。

例子

全部崩溃

加载一个预先训练的GoogLeNet卷积神经网络。

网= googlenet
net = DAGNetwork with properties: Layers: [144×1 net.cnn.layer. layer] Connections: [170×2 table] InputNames: {'data'} OutputNames: {'output'}

分析了网络。analyzeNetwork显示网络体系结构的交互式绘图和包含有关网络层信息的表格。

使用左边的情节研究网络架构。在图中选择一个图层。选中的图层在绘图和图层表中突出显示。

在表中,查看图层信息,例如图层属性、图层类型、图层激活的大小和可学习的参数。图层的激活是该图层的输出。

在网络中选择一个更深的层。请注意,更深层次的激活在空间维度(前两个维度)中较小,在通道维度(最后一个维度)中较大。利用这种结构,卷积神经网络可以逐渐增加提取图像特征的数量,同时降低空间分辨率。

通过点击层表右上角的箭头并选择,显示每个层中可学习的参数的总数总可学的.若要按列值对层表排序,将鼠标悬停在列标题上并单击出现的箭头。例如,您可以根据可学习参数的总数对各层进行排序,从而确定哪一层包含的参数最多。

analyzeNetwork(净)

创建一个简单的带有快捷连接的卷积网络。将网络的主分支创建为一个层数组,并从层数组创建一个层图。layerGraph连接所有的层按顺序。

layers = [imageInputLayer([32 32 3])]“填充”,“相同”)雷卢耶(“姓名”,“relu_1”) convolution2dLayer(3, 16岁,“填充”,“相同”,“大步走”, 2) reluLayer additionLayer (2“姓名”,“add1”) convolution2dLayer(3, 16岁,“填充”,“相同”,“大步走”, 2) reluLayer additionLayer (3“姓名”,“add2”) fulllyconnectedlayer (10) softmaxLayer classificationLayer;lgraph = layerGraph(层);

创建快捷连接。其中一个快捷连接包含一个1乘1的卷积层skipConv

skipConv=卷积2dlayer(1,16,“大步走”,2,“姓名”,“skipConv”);lgraph=addLayers(lgraph,skipConv);lgraph=connectLayers(lgraph,“relu_1”,“add1 / in2”);lgraph=连接层(lgraph,“add1”,“add2 / in2”);

分析网络架构。analyzeNetwork查找网络中的四个错误。

analyzeNetwork (lgraph)

调查和修复网络中的错误。在本例中,以下问题导致错误:

  • 这个skipConv层未连接到网络的其余部分。它应该是网络之间的快捷连接的一部分add1add2层。要修复此错误,请连接add1skipConvskipConvadd2

  • 这个add2层被指定有三个输入,但层只有两个输入。要修复错误,将输入的数量指定为2.

  • 添加层的所有输入必须具有相同的大小,但是add1层有两个不同大小的输入。因为conv_2层有一个“大步走”值为2时,该层将在前两个维度(空间维度)中对激活进行因子2的采样。来调整输入的大小relu2层,使其与来自的输入具有相同的大小relu1,通过设置下采样来去除下采样“大步走”价值conv_2层为1。

将这些修改应用到这个例子开始的层图构造中,并创建一个新的层图。

layers = [imageInputLayer([32 32 3])]“填充”,“相同”)雷卢耶(“姓名”,“relu_1”) convolution2dLayer(3, 16岁,“填充”,“相同”,“大步走”1) reluLayer additionLayer (2“姓名”,“add1”) convolution2dLayer(3, 16岁,“填充”,“相同”,“大步走”, 2) reluLayer additionLayer (2“姓名”,“add2”)完整连接层(10)softmaxLayer分类层];lgraph=层图(层);skipConv=卷积2dlayer(1,16,“大步走”,2,“姓名”,“skipConv”);lgraph=addLayers(lgraph,skipConv);lgraph=connectLayers(lgraph,“relu_1”,“add1 / in2”);lgraph=连接层(lgraph,“add1”,“skipConv”);lgraph=连接层(lgraph,“skipConv”,“add2 / in2”);

分析新的架构。新的网络不包含任何错误,可以进行培训。

analyzeNetwork (lgraph)

为自定义培训循环创建层图。对于自定义培训循环工作流,层图不得具有输出层。

[imageInputLayer([28 28 1],]),“归一化”,“没有”,“姓名”,“输入”)卷积层(5,20,“姓名”,“conv1”) batchNormalizationLayer (“姓名”,“bn1”)雷卢耶(“姓名”,“relu1”20岁的)convolution2dLayer (3“填充”,1,“姓名”,“conv2”) batchNormalizationLayer (“姓名”,“bn2”)雷卢耶(“姓名”,“relu2”20岁的)convolution2dLayer (3“填充”,1“姓名”,“conv3”) batchNormalizationLayer (“姓名”,“bn3”)雷卢耶(“姓名”,“relu3”) fullyConnectedLayer (10“姓名”,“俱乐部”)软MaxLayer(“姓名”,“softmax”));lgraph = layerGraph(层);

层图分析使用analyzeNetwork函数,并设置“TargetUsage”选项“dlnetwork”

analyzeNetwork (lgraph“TargetUsage”,“dlnetwork”)

在这里,函数没有报告任何与层图有关的问题。

要分析一个具有未连接到输入层的输入的网络,您可以提供示例网络输入到analyzeNetwork函数。您可以在分析时提供示例输入dlnetwork对象,或者当您分析数组或分层图对象用于自定义培训工作流“TargetUsage”、“dlnetwork”名称-值的选择。

定义网络架构。建立一个有两个分支的网络。网络有两个输入,每个分支有一个输入。使用添加层连接分支。

numFilters = 24;inputSize = [64 64 3];layerbranch1 = [imageInputLayer(inputSize,“归一化”,“没有”,“姓名”,“输入”) convolution2dLayer(3、6 * numFilters,“填充”,“相同”,“大步走”,2,“姓名”,“conv1Branch1”) groupNormalizationLayer (所有渠道的,“姓名”,“gn1Branch1”)雷卢耶(“姓名”,“relu1Branch1”)卷积2层(3,numFilters,“填充”,“相同”,“姓名”,“conv2Branch1”) groupNormalizationLayer (“通道智能”,“姓名”,“gn2Branch1”) additionLayer (2“姓名”,“添加”)雷卢耶(“姓名”,“reluCombined”) fullyConnectedLayer (10“姓名”,“俱乐部”)软MaxLayer(“姓名”,“sm”)];layersBranch2=[convolution2dLayer(1,numFilters,“姓名”,“convBranch2”) groupNormalizationLayer (所有渠道的,“姓名”,‘gnBranch2’)];lgraph=layerGraph(layersBranch1);lgraph=addLayers(lgraph,layersBranch2);lgraph=connectLayers(lgraph,‘gnBranch2’,“添加/ in2”);

创建dlnetwork.因为这个网络包含一个未连接的输入,所以创建一个未初始化的dlnetwork对象的“初始化”名称选择错误的

dlnet=dlnetwork(lgraph,“初始化”、假);

创建示例网络输入,其大小和格式与该网络的典型输入相同。对于这两种输入,使用32的批大小。使用尺寸为64 × 64的输入,有三个通道作为层的输入“输入”.使用尺寸为64 × 64的输入,18个通道作为层的输入“convBranch2”

exampleInput=dlarray(rand([inputSize 32]),“SSCB”);exampleeconvbranch2 = dlarray(rand([32 32 18 32])),“SSCB”);

检查属性来确定提供示例输入的顺序。

dlnet。层
ans=12×1带层的层阵列:1“输入”图像输入64×64×3图像2“conv1Branch1”卷积144 3×3带跨距卷积[2]和填充“相同的”3“gn1Branch1”组标准化组标准化4“relu1Branch1”ReLU ReLU 5“conv2Branch1”卷积24 3×3带跨距卷积[1]和填充“相同的”6“gn2Branch1”组标准化组标准化7“添加”2个输入的加法元素8“重新组合的”ReLU ReLU 9“fc”完全连接的10个完全连接的层10“sm”Softmax Softmax 11“convBranch2”卷积24 1×1卷积,带跨步[1]和填充[0]12“gnBranch2”组规范化组规范化

分析了网络。控件中需要输入的层的顺序相同,提供示例输入财产的dlnetwork.您必须为所有网络输入提供示例输入,包括连接到输入层的输入。

分析网络(dlnet、exampleInput、exampleConvBranch2)

输入参数

全部崩溃

训练有素的网络,指定为系列网络或者DAGNetwork对象。您可以通过导入预训练网络(例如,使用googlenet功能)或通过使用列车网络

网络层,指定为数组或一个分层图对象。

有关内置层的列表,请参见深度学习层列表

网络自定义训练循环,指定为dlnetwork对象。

目标工作流,指定为以下之一:

  • “列车网络”-分析层图,以便使用列车网络函数。例如,该函数检查层图是否有输出层,并且没有断开连接的层输出。

  • “dlnetwork”-分析层图,以便使用dlnetwork对象。例如,该函数检查层图是否没有任何输出层。

网络输入示例,指定为格式化dlarray对象。该软件通过网络传播示例输入,以确定层激活、可学习参数和状态参数的数量和大小。

如果要分析具有未连接到输入层的输入的网络,请使用示例输入。

必须指定示例输入的顺序取决于正在分析的网络类型:

  • 数组—提供示例输入,其顺序与需要输入的层在大堆

  • 分层图-以要求输入的层出现的相同顺序提供示例输入财产的分层图

  • dlnetwork—按照列表中列出的输入顺序提供示例输入输入名称财产的dlnetwork

如果一个层有多个未连接的输入,那么该层的示例输入必须按照它们在该层中出现的顺序分别指定输入名称所有物

您必须为网络的每个输入指定一个示例输入,即使该输入连接到输入层。

R2018a中引入