Tanhshrink¶
Tanhshrink激活层
\[Tanhshrink(x) = x - tanh(x)\]
其中,\(x\) 为输入的 Tensor
形状:¶
input: 任意形状的Tensor。
output: 和input具有相同形状的Tensor。
代码示例¶
import paddle
import numpy as np
x = paddle.to_tensor(np.array([-0.4, -0.2, 0.1, 0.3]))
m = paddle.nn.Tanhshrink()
out = m(x) # [-0.020051, -0.00262468, 0.000332005, 0.00868739]