LeakyReLU

class paddle.nn. LeakyReLU ( negative_slope=0.01, name=None ) [源代码]

LeakyReLU 激活层,创建一个可调用对象以计算输入 xLeakReLU

\[\begin{split}LeakyReLU(x)= \left\{ \begin{aligned} &x, & & if \ x >= 0 \\ &negative\_slope * x, & & otherwise \\ \end{aligned} \right. \\\end{split}\]

其中,\(x\) 为输入的 Tensor。

参数

  • negative_slope (float,可选) - \(x < 0\) 时的斜率。默认值为 0.01。

  • name (str,可选) - 具体用法请参见 Name,一般无需设置,默认值为 None。

形状

  • input:任意形状的 Tensor。

  • output:和 input 具有相同形状的 Tensor。

代码示例

import paddle

m = paddle.nn.LeakyReLU()
x = paddle.to_tensor([-2.0, 0, 1])
out = m(x)  # [-0.02, 0., 1.]