基于分布式深度学习的医学影像智能分析系统

文档序号:25543399发布日期:2021-06-18 20:40阅读:来源:国知局

技术特征:

1.一种基于分布式深度学习的医学影像智能分析系统,其特征在于,该系统包括设置于n个医疗中心的服务端、一个设置于远程服务器的中心客户端;各服务端与中心客户端通过通讯链路连接;

所述服务端包括图像获取模块;所述图像获取模块,配置为获取待分析的医学影像并进行图像预处理;将预处理后的医学影像作为训练样本数据与各服务端相关联;

所述中心客户端包括分布式模型训练与调度模块;所述分布式模型训练与调度模块,配置为通过分布式的方式训练深度神经网络模型,并由中心客户端集中调度各分布式的深度神经网络模型以进行模型迭代;

所述服务端、所述中心客户端还包括图像分类模块;所述图像分类模块,配置为通过训练好的深度神经网络模型获取待分析的医学影像所属类别;

其中,所述深度神经网络模型,其训练方法为:

a10,所述中心客户端将待训练的深度神经网络模型、初始化模型权重、模型训练参数编码为指向性张量,并分别发送至位于n个医疗中心的服务端;所述指向性张量为设定方向的张量;

a20,所述各服务端分别基于本地获取的训练样本数据训练接收的深度神经网络模型,计算模型训练损失值,更新模型权重,并将损失值及模型权重编码为指向性向量,发送至中心客户端;

a30,所述中心客户端获取各服务端的模型训练损失值和更新的模型权重并进行加权平均处理;将加权平均后的模型权重作为新一轮的初始化模型权重,再次发送至各服务端;

a40,循环步骤a20、a30,直至深度神经网络模型收敛。

2.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,所述各服务端与中心客户端之间的通讯链路连接通过通讯协议和链式模型实现;所述链式模型用于对张量的一系列操作整合为一个操作链,每个操作可表示张量的状态或变换;其中,链结构在其头部使用child属性向下访问,使用parent属性向上访问,实现指向性张量在服务端和中心客户端之间的异步发送与接收。

3.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,所述训练样本数据与各服务端的id索引、ip地址、port端口采用torchhook结构相关联。

4.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,所述图像预处理包括图像剪裁、缩放、标准化。

5.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,所述深度神经网络模型基于密集连接的卷积神经网络构建;其中,所述密集连接的卷积神经网络,每层均与其前面的所有层在通道维度上连接在一起并作为下一层的输入。

6.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,所述深度神经网络模型其在训练过程中的学习率的计算方法为:

lr′=max(lr′×0.95,lr0×0.01)

其中,i表示第i轮迭代,r表示总迭代轮数,lr0表示初始化学习率,lr′表示第i轮迭代后更新的学习率。

7.根据权利要求1所述的基于分布式深度学习的医学影像智能分析系统,其特征在于,“所述中心客户端获取各服务端的模型训练损失值和更新的模型权重并进行加权平均处理”,其方法为:

其中,li,j表示第i轮迭代第j个服务端计算的模型训练损失值,wi,j表示第i轮迭代第j个服务端更新的模型权重,wi+1,0为加权平均处理后的模型权重。

8.一种基于分布式深度学习的医学影像智能分析方法,其特征在于,该方法包括以下步骤:

s10,位于各医疗中心的服务端分别获取待分析的医学影像并进行图像预处理;将预处理后的医学影像作为训练样本数据与各服务端相关联;

s20,设置于远程服务器的中心客户端通过分布式的方式训练深度神经网络模型,并由中心客户端集中调度各分布式的深度神经网络模型以进行模型迭代;

s30,所述服务端、所述中心客户端通过训练好的深度神经网络模型获取待分析的医学影像所属类别;

其中,所述深度神经网络模型,其训练方法为:

a10,所述中心客户端将待训练的深度神经网络模型、初始化模型权重、模型训练参数编码为指向性张量,并分别发送至位于n个医疗中心的服务端;所述指向性张量为设定方向的张量;

a20,所述各服务端分别基于本地获取的训练样本数据训练接收的深度神经网络模型,计算模型训练损失值,更新模型权重,并将损失值及模型权重编码为指向性向量,发送至中心客户端;

a30,所述中心客户端获取各服务端的模型训练损失值和更新的模型权重并进行加权平均处理;将加权平均后的模型权重作为新一轮的初始化模型权重,再次发送至各服务端;

a40,循环步骤a20、a30,直至深度神经网络模型收敛。

9.一种计算机设备,其特征在于,包括:至少一个处理器以及与至少一个所述处理器通讯连接的存储器;其中,所述存储器存储有可被所述处理器执行的指令,所述指令用于被所述处理器执行以实现权利要求8所述的基于分布式深度学习的医学影像智能分析方法。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于被所述计算机执行以实现权利要求8所述的基于分布式深度学习的医学影像智能分析方法。


技术总结
本发明属于深度学习、医学影像智能分析领域,具体涉及一种基于分布式深度学习的医学影像智能分析系统,旨在解决现有医学影像智能分析系统因无法共享医疗数据导致的模型训练困难、分类精度低、泛化能力差的问题。本发明系统包括:设置于N个医疗中心的服务端、一个设置于远程服务器的中心客户端,服务端与中心客户端通过通讯链路连接;服务端包括图像获取模块,配置为获取医学影像并进行图像预处理;中心客户端包括分布式模型训练与调度模块,配置为通过分布式的方式训练深度神经网络模型并集中调度各分布式的深度神经网络模型以进行模型迭代。本发明避免了医疗数据共享,简化了多中心模型训练的难度,并提高了深度学习模型的分析精度和泛化能力。

技术研发人员:田捷;董迪;王思雯;胡振华;胡朝恩;杨鑫
受保护的技术使用者:中国科学院自动化研究所
技术研发日:2021.03.12
技术公布日:2021.06.18
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1