主要内容

leakyReluLayer

漏整流线性单元(ReLU)层

描述

一个泄漏的ReLU层执行一个阈值操作,其中任何小于零的输入值乘以一个固定标量。

这个操作相当于:

f x x x 0 年代 c 一个 l e x x < 0

创建

描述

= leakyReluLayer返回一个泄漏的ReLU层。

= leakyReluLayer (规模返回一个泄漏的ReLU层,其标量乘法器用于负输入等于规模

例子

= leakyReluLayer (<年代pan class="argument_placeholder">___“名称”,的名字返回一个泄漏的ReLU层,并设置可选参数<一个href="//www.tatmou.com/help/deeplearning/ref/nnet.cnn.layer.leakyrelulayer.html" class="intrnllnk">的名字财产。

属性

全部展开

漏水的ReLU

用于负输入值的标量乘法器,指定为数字标量。

例子:0.4

层名,指定为字符向量或字符串标量。若要在层图中包含层,必须指定非空的唯一层名。如果你用层和的名字被设置为'',然后软件在训练时自动为该层分配一个名称。

数据类型:字符|字符串

层的输入数。这一层只接受单个输入。

数据类型:

输入层名。这一层只接受单个输入。

数据类型:细胞

层输出的数量。这一层只有一个输出。

数据类型:

输出层的名称。这一层只有一个输出。

数据类型:细胞

例子

全部折叠

创建一个有名称的泄漏的ReLU层“leaky1”以及负输入等于0.1的标量乘数。

层= leakyReluLayer (0.1,<年代pan style="color:#A020F0">“名字”,<年代pan style="color:#A020F0">“leaky1”)
layer = LeakyReLULayer with properties: Name: 'leaky1' Hyperparameters Scale: 0.1000

中包含一个泄漏的ReLU层数组中。

layers = [imageInputLayer([28 28 1])卷积2dlayer (3,16) batchNormalizationLayer leakyReluLayer maxPooling2dLayer(2, 16)<年代pan style="color:#A020F0">“步”,2) convolution2dLayer(3,32) batchNormalizationLayer leakyReluLayer fulllyconnectedlayer (10) softmaxLayer classificationLayer]
图层数组:1”的形象输入28 x28x1图像zerocenter正常化2”卷积16 3 x3的隆起与步幅[1]和填充[0 0 0 0]3“批量标准化批量标准化4“ReLU漏漏ReLU规模0.01 5”麦克斯池2 x2马克斯池步(2 - 2)和填充[0 0 0 0]6”卷积与步幅32 3 x3的隆起[1 1] and padding [0 0 0 0] 7 '' Batch Normalization Batch normalization 8 '' Leaky ReLU Leaky ReLU with scale 0.01 9 '' Fully Connected 10 fully connected layer 10 '' Softmax softmax 11 '' Classification Output crossentropyex

                   

参考文献

Maas、Andrew L.、Awni Y. Hannun和Andrew Y. Ng。“整流非线性改进神经网络声学模型。”在Proc。ICML,第30卷,第2期1.2013.

扩展功能

C / c++代码生成
使用MATLAB®Coder™生成C和c++代码。

GPU的代码生成
使用GPU Coder™为NVIDIA®GPU生成CUDA®代码。

另请参阅

|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">

介绍了R2017b