natural_exp_decay¶

paddle.fluid.layers. natural_exp_decay ( learning_rate, decay_steps, decay_rate, staircase=False ) [源代码] ¶

将自然指数衰减运用到初始学习率上。

训练模型时，在训练过程中降低学习率。自然指数衰减使用自然指数来计算衰减倍率，每 decay_steps 步衰减倍率的自然指数幂次项上增加 decay_rate 。

自然指数学习率衰减计算方式如下。

         if not staircase:
    decayed_learning_rate = learning_rate * exp(- decay_rate * (global_step / decay_steps))
else:
    decayed_learning_rate = learning_rate * exp(- decay_rate * floor(global_step / decay_steps))

        

参数¶

learning_rate (Variable|float) - 初始学习率，类型可以为学习率变量(Variable)或float型常量。

decay_steps (int) - 学习率衰减步长，见以上衰减运算。

decay_rate (float) - 学习率衰减率。见以上衰减运算。

staircase (bool) - 若为True，按离散区间衰减学习率，即每 decay_steps 步衰减倍率的自然指数幂次项上增加 decay_rate。若为False，则按以上衰减运算持续衰减。默认False。

返回¶

Variable(Tensor) 随step衰减的学习率变量，维度为 \([1]\) 的1-D Tensor。

返回类型¶

变量(Variable)

代码示例¶

          import paddle.fluid as fluid
base_lr = 0.1
sgd_optimizer = fluid.optimizer.SGD(
    learning_rate=fluid.layers.natural_exp_decay(
          learning_rate=base_lr,
          decay_steps=10000,
          decay_rate=0.5,
          staircase=True))

         