leaky_relu¶
leaky_relu 激活层。计算公式如下:
\[\begin{split}LeakyReLU(x)= \left\{ \begin{aligned} &x, & & if \ x >= 0 \\ &negative\_slope * x, & & otherwise \\ \end{aligned} \right. \\\end{split}\]
其中,\(x\) 为输入的 Tensor
参数¶
x (Tensor) - 输入的 Tensor,数据类型为:float32、float64。
negative_slope (float,可选) - \(x < 0\) 时的斜率。默认值为 0.01。
name (str,可选) - 具体用法请参见 Name,一般无需设置,默认值为 None。
返回¶
Tensor
,数据类型和形状同x
一致。
代码示例¶
import paddle
import paddle.nn.functional as F
x = paddle.to_tensor([-2., 0., 1.])
out = F.leaky_relu(x)
print(out)
# [-0.02, 0., 1.]