主要内容

转置层

转置二维卷积层

描述

转置的二维卷积层对特征地图进行上采样。

该层有时被错误地称为“反褶积”或“反褶积”层。该层是卷积的转置,不执行反褶积。

=transposedConv2dLayer(过滤,微粒过滤器)返回转置的二维卷积层并设置过滤微粒过滤器财产。

实例

=transposedConv2dLayer(过滤,微粒过滤器,名称、值)返回转置的二维卷积层,并使用一个或多个名称-值对参数指定其他选项。

例子

全部崩溃

创建一个包含96个过滤器的转置卷积层,每个过滤器的高度和宽度为11。在水平和垂直方向上使用4的步幅。

层=转置层(11,96,“大步走”,4);

输入参数

全部崩溃

过滤器的高度和宽度,指定为两个正整数的向量[h-w]哪里H身高和身高是多少W是宽度。过滤定义输入中神经元连接到的局部区域的大小。

如果你设定过滤使用输入参数,然后可以指定过滤作为标量,对两个维度使用相同的值。

例子:[5 5]指定高度为5、宽度为5的过滤器。

过滤器的数量,指定为正整数。此数量对应于层中连接到输入中相同区域的神经元数量。此参数确定卷积层输出中的通道(特征映射)数量。

例子:96

名称值参数

指定可选的逗号分隔的字符对名称、值论据。名称是参数名和价值是对应的值。名称必须出现在引号内。您可以按任意顺序指定多个名称和值对参数,如下所示:名称1,值1,…,名称,值.

例子:“裁剪”,1
转置卷积

全部崩溃

输入的上采样系数,指定为以下之一:

  • 两个正整数的向量[甲、乙]哪里A.是垂直跨步和B是水平跨步。

  • 正整数对应于垂直和水平步幅。

例子:“步幅”[2 1]

输出大小缩减,指定为以下内容之一:

  • “一样”–设置裁剪,使输出大小等于输入大小。*步幅哪里输入大小是图层输入的高度和宽度。如果你设定“种植”选择“一样”,则软件会自动设置裁剪模式要删除的图层的属性“一样”.

    如果可能,软件从顶部和底部以及左侧和右侧修剪相等的量。如果垂直修剪量有奇数值,则软件从底部修剪额外的一行。如果水平修剪量有奇数值,则软件从右侧修剪额外的一列。

  • 正整数–从所有边裁剪指定数量的数据。

  • 非负整数向量[甲、乙]-收成A.从上到下和裁剪B从左到右。

  • 向量[t b l r]-收成T,B,L,R分别从输入的顶部、底部、左侧和右侧开始。

如果你设定“种植”选项设置为数值,则软件会自动设置裁剪模式要删除的图层的属性“手册”.

例子:[1 2]

每个过滤器的通道数,指定为'数字通道"及“自动”或正整数。

此参数必须等于此卷积层的输入通道数。例如,如果输入是彩色图像,则输入通道数必须为3。如果当前层之前卷积层的过滤器数为16,则此层的通道数必须为16。

参数和初始化

全部崩溃

函数初始化权重,指定为以下值之一:

  • “格洛特”–使用Glorot初始值设定项初始化权重[1](也称为Xavier初始值设定项)。Glorot初始值设定项以零均值和零方差从均匀分布中独立采样2/(单位:分钟+单位:分钟)哪里numIn=filterSize(1)*filterSize(2)*NumChannels,numOut=filterSize(1)*filterSize(2)*NUM过滤器数字通道是输入通道的数量。

  • “他”–使用He初始值设定项初始化权重[2].He初始值设定项从均值和方差为零的正态分布中采样2/努明哪里numIn=filterSize(1)*filterSize(2)*NumChannels数字通道是输入通道的数量。

  • “窄正常”–通过从平均值为零、标准偏差为0.01的正态分布中独立取样来初始化权重。

  • “零”–用零初始化权重。

  • “一个人”–使用1初始化权重。

  • 函数句柄–使用自定义函数初始化权重。如果指定函数句柄,则函数的形式必须为权重=func(sz)哪里深圳是重量的大小。有关示例,请参见指定自定义权重初始化函数.

该层仅在以下情况下初始化权重:砝码属性为空。

数据类型:烧焦|一串|功能手柄

函数初始化偏差,指定为以下选项之一:

  • “零”–用零初始化偏差。

  • “一个人”–用1初始化偏差。

  • “窄正常”–通过从平均值为零、标准偏差为0.01的正态分布中独立取样来初始化偏差。

  • 函数句柄–使用自定义函数初始化偏差。如果指定函数句柄,则函数的形式必须为偏差=函数(sz)哪里深圳是偏差的大小。

该层仅在以下情况下初始化偏移:偏见属性为空。

数据类型:烧焦|一串|功能手柄

卷积层的层权重,指定为数字数组。

图层权重是可学习的参数。您可以直接使用砝码层的属性。培训网络时,如果砝码层的属性为非空,则列车网络使用砝码属性作为初始值。如果砝码属性为空,则列车网络使用由指定的初始值设定项增重剂层的属性。

训练时,,砝码是一个过滤(1)-借-过滤(2)-借-微粒过滤器-借-数字通道大堆

数据类型:仅有一个的|双重的

卷积层的层偏差,指定为数字数组。

层偏差是可学习的参数。当您培训网络时,如果偏见那么,它是非空的列车网络使用偏见属性作为初始值。如果偏见那么是空的吗列车网络使用由指定的初始值设定项双星化剂.

训练时,,偏见这是一个1乘1的座位-微粒过滤器大堆

数据类型:仅有一个的|双重的

学习率与正则化

全部崩溃

权重的学习速率因子,指定为非负标量。

软件将该系数乘以全局学习率,以确定该层中权重的学习率。例如,如果加权比率因子2.,则此层中权重的学习速率是当前全局学习速率的两倍。软件将根据使用指定的设置确定全局学习速率培训选项作用

数据类型:仅有一个的|双重的|int8|int16|int32|int64|uint8|uint16|uint32|uint64

偏差的学习率因子,指定为非负标量。

软件将该系数乘以全局学习率,以确定该层中偏差的学习率。例如,如果双线性学习因子2.,则层中偏差的学习速率是当前全局学习速率的两倍。软件根据使用指定的设置确定全局学习速率培训选项作用

数据类型:仅有一个的|双重的|int8|int16|int32|int64|uint8|uint16|uint32|uint64

L2.权重的正则化因子,指定为非负标量。

软件将该系数乘以全局系数L2.正则化因子,用于确定L2.此层中权重的正则化。例如,如果权重12因子2.,然后L2.该层中权重的正则化是全局权重的两倍L2.正则化因子。您可以指定全局L2.使用正则化因子培训选项作用

数据类型:仅有一个的|双重的|int8|int16|int32|int64|uint8|uint16|uint32|uint64

L2.偏差的正则化因子,指定为非负标量。

软件将该系数乘以全局系数L2.正则化因子,用于确定L2.该层中偏差的正则化。例如,如果双SL2因子2.,然后L2.该层中偏差的正则化是全局的两倍L2.正则化因子。您可以指定全局L2.使用正则化因子培训选项作用

数据类型:仅有一个的|双重的|int8|int16|int32|int64|uint8|uint16|uint32|uint64

全部崩溃

层名称,指定为字符向量或字符串标量。对于数组输入列车网络,装配网络,分层图数据链路网络函数会自动将名称指定给具有名称着手''.

数据类型:烧焦|一串

输出参数

全部崩溃

转置的二维卷积层,返回为转置卷积层对象

兼容性考虑

全部展开

R2019a中的行为改变

工具书类

[1] 格洛特、泽维尔和约书亚·本吉奥。“理解训练深度前馈神经网络的困难”,摘自第十三届人工智能和统计国际会议记录, 249–356. 意大利撒丁岛:AISTATS,2010年。

[2] 何开明、张向宇、任少清、孙健。“深入研究整流器:在ImageNet分类方面超越人类水平的性能”,年2015年IEEE计算机视觉国际会议记录,1026–1034。华盛顿特区:IEEE计算机视觉学会,2015年。

扩展能力

GPU代码生成
使用GPU编码器为NVIDIA®GPU生成CUDA®代码™.

在R2017b中引入