paddle.optimizer¶
paddle.optimizer 目录下包含飞桨框架支持的优化器算法相关的API与学习率衰减相关的API。具体如下：
优化器算法相关API¶
API名称 |
API功能 |
|---|---|
|
|
Adadelta优化器 |
|
|
Adagrad优化器 |
|
|
Adam优化器 |
|
|
Adamax优化器 |
|
|
AdamW优化器 |
|
|
Lamb优化器 |
|
|
Momentum优化器 |
|
|
飞桨框架优化器基类 |
|
|
RMSProp优化器 |
|
|
SGD优化器 |
学习率衰减相关API¶
API名称 |
API功能 |
|---|---|
|
|
Cosine Annealing学习率衰减 |
|
|
Exponential 学习率衰减 |
|
|
Inverse Time 学习率衰减 |
|
|
学习率衰减的基类 |
|
|
Lambda 学习率衰减 |
|
|
Linear Warmup 学习率衰减 |
|
|
MultiStep 学习率衰减 |
|
|
NatualExp 学习率衰减 |
|
|
Norm学习率衰减 |
|
|
分段设置学习率 |
|
|
多项式学习率衰减 |
|
|
loss 自适应学习率衰减 |
|
|
按指定间隔轮数学习率衰减 |
|
|
根据lambda函数进行学习率衰减 |