[ 返回参数类型不一致 ]torch.nn.RNNCell

torch.nn.RNNCell

torch.nn.RNNCell(input_size, hidden_size, bias=True, nonlinearity='tanh', device=None, dtype=None)

paddle.nn.SimpleRNNCell

paddle.nn.SimpleRNNCell(input_size, hidden_size, activation='tanh', weight_ih_attr=None, weight_hh_attr=None, bias_ih_attr=None, bias_hh_attr=None, name=None)

两者功能一致但输入参数用法不一致,且返回参数个数不同,具体如下:

参数映射

PyTorch PaddlePaddle 备注
input_size input_size 表示输入 x 的大小。
hidden_size hidden_size 表示隐藏状态 h 大小。
bias bias_ih_attr, bias_hh_attr 是否使用偏置, Paddle 的 bias_ih_attr, bias_hh_attr 参数均需与 PyTorch 设置一致,需要转写。
nonlinearity activation 表示激活函数类型,仅参数名不一致。
- weight_ih_attr weight_ih 的参数, PyTorch 无此参数, Paddle 保持默认即可。
- weight_hh_attr weight_hh 的参数, PyTorch 无此参数, Paddle 保持默认即可。
forward 类方法返回值 forward 类方法返回值 PyTorch 的返回值为更新后的隐藏状态 ret, Paddle 返回值为 ret、 ret, 需要转写。

转写示例

bias:是否使用偏置

# PyTorch 写法
torch.nn.RNNCell(16, 32, bias=True)
# Paddle 写法
paddle.nn.SimpleRNNCell(16, 32)
# PyTorch 写法
torch.nn.RNNCell(16, 32, bias=False)
# Paddle 写法
paddle.nn.SimpleRNNCell(16, 32, bias_ih_attr=False, bias_hh_attr=False)

forward 类方法:前向传播

# 返回值个数不一致,Paddle 返回值比 Pytorch 多一个
# PyTorch 写法
rnn = torch.nn.RNNCell(2, 2)
result = rnn(inp, h0)

# Paddle 写法
rnn = paddle.nn.SimpleRNNCell(2, 2)
result = rnn(inp, h0)[0]