Hardsigmoid¶
Hardsigmoid 激活层,用于创建一个 Hardsigmoid 类的可调用对象。sigmoid 的分段线性逼近激活函数,速度比 sigmoid 快,详细解释参见 Noisy Activation Functions 。
\[\begin{split}Hardsigmoid(x)= \left\{ \begin{aligned} &0, & & \text{if } x \leq -3 \\ &1, & & \text{if } x \geq 3 \\ &x/6 + 1/2, & & \text{otherwise} \end{aligned} \right.\end{split}\]
其中,\(x\) 为输入的 Tensor。
形状¶
input:任意形状的 Tensor。
output:和 input 具有相同形状的 Tensor。
代码示例¶
import paddle
m = paddle.nn.Hardsigmoid()
x = paddle.to_tensor([-4., 5., 1.])
out = m(x) # [0., 1, 0.666667]