应用泄漏整流线性单元激活
漏整流线性单元(ReLU)激活操作执行非线性阈值操作,其中任何小于零的输入值乘以一个固定的比例因子。
这个操作相当于
请注意
该函数将泄漏的ReLU操作应用于<一个href="//www.tatmou.com/help/deeplearning/ref/dlarray.html">dlarray
数据。如果你想在<一个href="//www.tatmou.com/help/deeplearning/ref/nnet.cnn.layergraph.html">layerGraph
对象或<一个href="//www.tatmou.com/help/deeplearning/ref/nnet.cnn.layer.layer.html">层
数组,使用下面的图层:
计算输入的漏的ReLU激活海底
= leakyrelu (<一个href="#mw_0e340f08-9160-4d7c-afe5-fae5c32e0218" class="intrnllnk">dlX
)dlX
通过应用阈值操作。中所有的值dlX
小于零乘以一个默认的比例因子0.01
.
指定泄漏的ReLU操作的比例因子。海底
= leakyrelu (<一个href="#mw_0e340f08-9160-4d7c-afe5-fae5c32e0218" class="intrnllnk">dlX
,<一个href="#mw_e074da10-6b8b-40f6-809c-f95d7102f449" class="intrnllnk">scaleFactor
)
batchnorm
|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">dlarray
|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">dlconv
|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">dlfeval
|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">dlgradient
|<年代pan itemscope itemtype="//www.tatmou.com/help/schema/MathWorksDocPage/SeeAlso" itemprop="seealso">线性整流函数(Rectified Linear Unit)