主要内容

线性整流函数(Rectified Linear Unit)

应用整流线性单元激活

描述

整流线性单元(ReLU)激活操作执行非线性阈值操作,其中任何小于零的输入值都被设置为零。

这个操作相当于

f x x x > 0 0 x 0.

请注意

该函数将ReLU操作应用于dlarray数据。如果您想应用ReLU激活layerGraph对象或数组,使用以下图层:

例子

海底= relu (dlX计算输入的ReLU激活dlX通过应用阈值操作。中的所有值dlX小于0的被设为0。

例子

全部折叠

使用线性整流函数(Rectified Linear Unit)函数将输入数据中的负值设置为零。

将输入数据创建为高和宽分别为12和32通道的随机值的单个观测值。

身高= 12;宽度= 12;通道= 32;观察结果= 1;X = randn(高度,宽度,通道,观测值);dlX = dlarray(X,“SSCB”);

计算泄漏的ReLU激活。

dlY = relu(dlX);

所有的负值dlX现在设置为0

输入参数

全部折叠

输入数据,指定为格式化的dlarray,一个未格式化的dlarray,或数值数组。

数据类型:|

输出参数

全部折叠

ReLU激活,返回为dlarray.输出海底具有与输入相同的底层数据类型dlX

如果输入数据dlX是格式化的dlarray海底维度格式与dlX.如果输入数据没有格式化dlarray海底是未格式化的dlarray具有与输入数据相同的维度顺序。

扩展功能

R2019b引入