技术编号:26052214
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本说明书涉及机器学习技术领域,尤其涉及一种基于流水线并行的模型训练方法、装置以及设备。背景技术近年来,深度学习已极大地推动了人工智能技术的发展,在很多领域已获得良好的效果。然而,随着人工智能技术的发展,模型的参数规模也越来越大,其增长速度甚至已远超过硬件处理性能的增长速度。为了解决这个矛盾,模型并行技术逐渐受到研究者们的重视。模型并行可以将一个大规模模型划分为多个模型切片,并分配到不同的工作机上,从而实现大规模模型的训练或者推理。传统的模型并行技术,同一时刻只能保证一个工作机运行,其他的空置。基...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。