Skip to content

【PaddlePaddle Hackathon 2】13、为 Paddle 新增 CyclicLR 优化调度器 #40321

@TCChenlong

Description

@TCChenlong

(此 ISSUE 为 PaddlePaddle Hackathon 第二期活动的任务 ISSUE,更多详见 【PaddlePaddle Hackathon 第二期】任务总览

【任务说明】

任务标题:为 Paddle 新增 CyclicLR 优化调度器

技术标签:深度学习框架,Python,优化调度算法

任务难度:简单

详细描述: CyclicLR最早在论文Cyclical Learning Rates for Training Neural Networks中提出,它控制学习率以固定周期在base_lr和max_lr之间变化,它的调整是以batch.step进行的,同时,它还有3种内置的波幅调整策略:“triangular”、“triangular2”、“exp_range”。此任务的目标是在 Paddle 框架中,新增 CyclicLR 优化调度器,调用路径为:paddle.optimizer.lr.CyclicLR。

【提交流程】

请按 新增API 开发&提交流程中的描述,完成任务提交过程中的相关步骤。

【提交内容】

【合入标准】

【技术要求】

  • 熟悉 CyclicLR 优化调度算法原理和适用场景
  • 熟练掌握 Python

【参考内容】

【答疑交流】

  • 如果在开发中对于上述任务有任何问题,欢迎在本 ISSUE 下留言交流。
  • 对于开发中的共性问题,在活动过程中,会定期组织答疑,请大家关注官网&QQ群的通知,及时参与。

Metadata

Metadata

Assignees

No one assigned

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions