技术编号:16137015
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本公开涉及深度学习,尤其涉及基于深度学习的学习率确定方法和装置。背景技术目前深度学习模型的求解具有多种优化方式,无论哪种优化方式都需要设置一个学习率来控制梯度移动步长。学习率设置太小会导致目标损失下降过慢,迭代次数过多,需要非常久的时间才能收敛;学习率设置太大很容易导致梯度爆炸(乘积趋向无穷大),使整个深度网络的学习无法继续下去。因此,合适的学习率对深度网络参数的求解非常重要。部分研究人员根据经验设定一个合适的固定值,然而这种固定值无法兼顾整个网络的学习过程,通常会导致网络后期的目标损失值出现震...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。