silu

paddle.nn.functional. silu ( x, name=None ) [源代码]

silu 激活层。计算公式如下:

\[silu(x) = \frac{x}{1 + \mathrm{e}^{-x}}\]

其中,\(x\) 为输入的 Tensor。

参数

  • x (Tensor) - 输入的 Tensor,数据类型为 bfloat1j 、 float16 、 float32 或 float64。

  • name (str,可选) - 具体用法请参见 Name,一般无需设置,默认值为 None。

返回

Tensor,数据类型和形状同 x 一致。

代码示例

import paddle
import paddle.nn.functional as F

x = paddle.to_tensor([1.0, 2.0, 3.0, 4.0])
out = F.silu(x) # [ 0.731059, 1.761594, 2.857722, 3.928055 ]