深度神经网络的解释方法、装置、终端及存储介质与流程

文档序号:22679141发布日期:2020-10-28 12:38阅读:来源:国知局

技术特征:

1.一种深度神经网络的解释方法,其特征在于,包括:

输入多个数据至训练好的深度神经网络模型中,得到每一个数据对应的第一预测类别;

当所述第一预测类别为预设目标类别时,将所述第一预测类别对应的目标数据输入至解释因子预测模型中,以得到所述预设目标类别对应的解释因子,所述解释因子预测模型根据预先设定的目标数量和所述预设目标类别的第一预测值训练得到;

统计每一个解释因子的出现次数并排序后,筛选排名最高的所述目标数量个解释因子作为所述预设目标类别的目标解释因子。

2.根据权利要求1所述的方法,其特征在于,还包括预先训练所述解释因子预测模型,包括:

逐个输入样本至所述训练好的深度神经网络模型中,得到每个样本对应的预测类别以及第一预测值;

当所述预测类别为预设目标类别时,将所述预测类别对应的目标样本输入至所述解释因子预测模型中,得到每个解释因子的第二预测值;

根据所述第一预测值、所述第二预测值和所述目标数量构建解释因子标签;

基于所述解释因子标签和所述第二预测值反向传播更新所述解释因子预测模型;

循环执行上述步骤直至所述解释因子预测模型收敛,并将收敛的解释因子预测模型与所述预设目标类别绑定。

3.根据权利要求2所述的方法,其特征在于,所述利用所述第一预测值、所述每个解释因子的第二预测值和所述目标数量构建解释因子标签,包括:

根据所述第一预测值和所述目标数量计算所有的解释因子中取值为1的解释因子的数目w,w=ceil(m×sk),其中,ceil表示向上取整,m表示所述目标数量,sk表示所述第一预测值;

根据所述每个解释因子的第二预测值的大小,将所述第二预测值最大的所述w个解释因子的值设置为1,将其余的解释因子的值设置为0,得到所述解释因子标签。

4.根据权利要求2所述的方法,其特征在于,所述逐个输入样本至所述训练好的深度神经网络模型中之前,还包括:

获取用户预先输入的至少一个预设目标类别,以及每个预设目标类别对应的目标解释因子的目标数量。

5.根据权利要求1所述的方法,其特征在于,所述输入多个数据至训练好的深度神经网络模型中之前,还包括:

获取用户预先输入的至少一个预设目标类别,每个所述预设目标类别均对应有预先训练至收敛状态的解释因子预测模型。

6.根据权利要求1所述的方法,其特征在于,所述将所述第一预测类别对应的目标数据输入至解释因子预测模型中,以得到所述预设目标类别对应的解释因子,包括:

将所述预设目标类别对应的目标数据输入至与所述预设目标类别对应的解释因子预测模型中,得到所述每个解释因子的第二预测值;

将所述第二预测值超过预设阈值的解释因子的值取1,并作为所述预设目标类别对应的解释因子。

7.根据权利要求1所述的方法,其特征在于,所述将所述第一预测类别对应的目标数据输入至解释因子预测模型中之前,还包括:

获取与所述预设目标类别对应的解释因子预测模型。

8.一种深度神经网络的解释装置,其特征在于,包括:

第一输入模块,用于输入多个数据至训练好的深度神经网络模型中,得到每一个数据对应的第一预测类别;

第二输入模块,用于当所述第一预测类别为预设目标类别时,将所述第一预测类别对应的目标数据输入至解释因子预测模型中,以得到所述预设目标类别对应的解释因子,所述解释因子预测模型根据预先设定的目标数量和所述预设目标类别的第一预测值训练得到;

筛选模块,用于统计每一个解释因子的出现次数并排序后,筛选排名最高的所述目标数量个解释因子作为所述预设目标类别的目标解释因子。

9.一种终端,其特征在于,所述终端包括处理器、与所述处理器耦接的存储器,其中,

所述存储器存储有用于实现如权利要求1-7中任一项所述的深度神经网络的解释方法的程序指令;

所述处理器用于执行所述存储器存储的所述程序指令以得到预设目标类别的目标解释因子。

10.一种存储介质,其特征在于,存储有能够实现如权利要求1-7中任一项所述的深度神经网络的解释方法的程序文件。


技术总结
本发明提出一种深度神经网络的解释方法、装置、终端及存储介质,涉及人工智能技术领域,具体公开了通过深度神经网络输出的结果从输入的多个数据中确定所有的目标数据,再将目标数据分别输入至解释因子预测模型中,得到每个目标数据对应的一组解释因子,再统计多组解释因子中每个解释因子的出现次数并排序后,筛选排名最高的目标数量个解释因子作为预设目标类别的目标解释因子。本发明通过预先训练好的解释因子预测模型得到预测结果的解释因子,以解释影响深度神经网络预测结果主要因素,其可应用于智慧政务/智慧城管/智慧社区/智慧安防/智慧物流/智慧医疗/智慧教育/智慧环保/智慧交通场景中,从而推动智慧城市的建设。

技术研发人员:陈筱;周细文;庄伯金;王少军
受保护的技术使用者:平安科技(深圳)有限公司
技术研发日:2020.07.17
技术公布日:2020.10.27
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1