图片处理模型的训练方法及图片处理方法与流程

文档序号:31025168发布日期:2022-08-06 00:01阅读:360来源:国知局
图片处理模型的训练方法及图片处理方法与流程

1.本说明书实施例涉及机器学习技术领域,特别涉及一种图片处理模型的训练方法。


背景技术:

2.深度神经网络已成为图像、视频等高维数据分类和处理的新技术,广泛应用于图像处理、视频处理等技术领域。
3.将深度神经网络模型应用于超分(把低分辨率的视频或者图像,通过算法转换成高分辨率的视频或者图像)场景,由于超分高实时、计算量大、特征大等特点,对实现超分的深度神经网络模型的性能优化是一件十分困难的事情。
4.目前,在保持算法效果不降低的情况下,对端上实现超分的深度神经网络模型进行性能优化是一个极大的难点。


技术实现要素:

5.有鉴于此,本说明书实施例提供了一种图片处理模型的训练方法。本说明书一个或者多个实施例同时涉及一种图片处理模型的训练系统,一种图片处理模型,两种图片处理方法,两种图片处理装置,一种计算设备,一种计算机可读存储介质以及一种计算机程序,以解决现有技术中存在的技术缺陷。
6.根据本说明书实施例的第一方面,提供了一种图片处理模型的训练方法,应用于模型训练系统,所述系统包括终端和服务端,所述方法包括:
7.所述终端,在至少两个硬件分别部署图片处理模型的处理模块,根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,其中,所述目标图片的分辨率大于所述初始图片,
8.在确定所述目标运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端;
9.所述服务端,对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端。
10.根据本说明书实施例的第二方面,提供了一种图片处理模型的训练系统,包括终端和服务端,其中,
11.所述终端,被配置为在至少两个硬件分别部署图片处理模型的处理模块,根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,其中,所述目标图片的分辨率大于所述初始图片,
12.在确定所述目标运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端;
13.所述服务端,被配置为对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端。
14.根据本说明书实施例的第三方面,提供了一种图片处理模型,包括第一处理模块、第二处理模块以及第三处理模块,其中,
15.所述第一处理模块包括至少一个第一卷积模块和至少一个第二卷积模块,并且所述第一处理模块以及所述第三处理模块部署在终端的第一硬件;
16.所述第二处理模块包括下采样模块、上采样模块以及第二处理子模块,并且所述第二处理模块部署在所述终端的第二硬件,所述第一硬件与所述第二硬件不同,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
17.根据本说明书实施例的第四方面,提供了一种图片处理方法,应用于终端,包括:
18.将初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
19.获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
20.将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,
21.其中,所述目标图片的分辨率大于所述初始图片,且所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
22.根据本说明书实施例的第五方面,提供了一种图片处理装置,应用于终端,包括:
23.第一输入模块,被配置为将初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
24.第一获得模块,被配置为获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
25.第二输入模块,被配置为将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,
26.其中,所述目标图片的分辨率大于所述初始图片,且所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
27.根据本说明书实施例的第六方面,提供了一种图片处理方法,包括:
28.接收用户通过图片输入界面输入的初始图片;
29.将所述初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
30.获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
31.将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,其中,所述目标图片的分辨率大于所述初始图片;
32.将所述目标图片通过图片展示界面展示给所述用户,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
33.根据本说明书实施例的第七方面,提供了一种图片处理装置,包括:
34.图片接收模块,被配置为接收用户通过图片输入界面输入的初始图片;
35.第三输入模块,被配置为将所述初始图片分别输入,图片处理模型的第一处理模
块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
36.第二获得模块,被配置为获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
37.第四输入模块,被配置为将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,其中,所述目标图片的分辨率大于所述初始图片;
38.展示模块,被配置为将所述目标图片通过图片展示界面展示给所述用户,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
39.根据本说明书实施例的第八方面,提供了一种计算设备,包括:
40.存储器和处理器;
41.所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现上述图片处理模型的训练方法或图片处理方法的步骤。
42.根据本说明书实施例的第九方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该指令被处理器执行时实现上述图片处理模型的训练方法或图片处理方法的步骤。
43.根据本说明书实施例的第十方面,提供了一种计算机程序,其中,当所述计算机程序在计算机中执行时,令计算机执行上述图片处理模型的训练方法或图片处理方法的步骤。
44.本说明书一个实施例提供的图片处理模型的训练方法,应用于模型训练系统,所述系统包括终端和服务端,所述方法包括:所述终端,在至少两个硬件分别部署图片处理模型的处理模块,根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,其中,所述目标图片的分辨率大于所述初始图片,在确定所述目标运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端;所述服务端,对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端。
45.具体的,该图片处理模型的训练方法通过在终端的至少两个硬件部署图片处理模型的处理模块,在部署在至少两个硬件的图片处理模型的处理模块,对初始图片处理的目标运行时间满足预设时间条件的情况下,确定该图片处理模型此种结构部署在该终端时,图片处理性能较优;再将该图片处理模型发送至服务端进行训练后部署,实现后续终端在使用该图片处理模型进行图片处理时,在保持算法效果不降低的情况下,图片处理模型的性能也较优。
附图说明
46.图1是本说明书一个实施例提供的一种图片处理方法的具体场景处理示意图;
47.图2是本说明书一个实施例提供的一种图片处理模型的训练方法的流程图;
48.图3是本说明书一个实施例提供的一种图片处理模型的结构示意图;
49.图4是本说明书一个实施例提供的一种应用于终端的图片处理方法的流程示意图;
50.图5是本说明书一个实施例提供的另一种图片处理方法的流程示意图;
51.图6是本说明书一个实施例提供的一种图片处理模型的训练系统;
52.图7是本说明书一个实施例提供的一种应用于终端的图片处理装置的结构示意图;
53.图8是本说明书一个实施例提供的另一种图片处理装置的结构示意图;
54.图9是本说明书一个实施例提供的一种计算设备的结构框图。
具体实施方式
55.在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
56.在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
57.应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
58.首先,对本说明书一个或多个实施例涉及的名词术语进行解释。
59.端上:指移动端设备,例如安装有移动操作系统的手机、或者其他嵌入式设备等。
60.超分:超分辨率的简称,即把低分辨率的视频或图像,通过算法转换成高分辨率的视频或图像。
61.异构:指设备上存在2个以上不同的硬件计算单元,在运算时,能够并行地进行运算,例如同时带cpu(中央处理器)和gpu(图形处理器)的设备。
62.在本说明书中,提供了一种图片处理模型的训练方法。本说明书一个或者多个实施例同时涉及一种图片处理模型的训练系统,一种图片处理模型,两种图片处理方法,两种图片处理装置,一种计算设备,一种计算机可读存储介质以及一种计算机程序,在下面的实施例中逐一进行详细说明。
63.参见图1,图1示出了根据本说明书一个实施例提供的一种图片处理方法的具体场景处理示意图。
64.以将本说明书实施例提供的图片处理方法应用于超分场景中,即将低分辨率的图像转换为高分辨率图像的场景为例,进行详细介绍。
65.图1中包括终端102以及部署在该终端102的两个不同硬件(如cpu以及gpu)上、预先训练好的图片处理模型104;例如,图片处理模型中的cpu分支模块以及cpu尾部模块部署在该终端102的cpu中,图片处理模型中的gpu分支模块部署在该终端102的gpu中,后续图片处理模型对低分辨率图像进行图像处理时,cpu分支模块和gpu分支模块异构并行运行。
66.其中,该图片处理模型可以在服务端中训练,在终端102部署;也可以在其他的某
个边缘节点中训练,在终端102部署;又或者是在某个边缘节点以及服务端进行分布训练,在终端102部署等。
67.具体实施时,终端102确定待转换的低分辨率图像,该低分辨率图像可以是用户上传的低分辨率图像,也可以是终端102从其他应用程序获取到低分辨率图像,又或者是从视频播放应用程序获取的播放视频中解析出的低分辨率图像等。
68.终端102将该低分辨率图像输入部署在两个不同硬件的图片处理模型,实现该低分辨率图片在图片处理模型的各处理模块中异构并行处理,即可获得该图片处理模型处理后输出的,与该低分辨率图像对应的高分辨率图像,并将该高分辨率图像展示给用户。
69.本说明书实施例提供的图片处理方法,将图片处理模型的不同模块进行拆分,分别部署在终端的不同硬件上,后续终端在根据该图片处理模型进行低分辨率图像到高分辨率图像的转换时,可以实现该图片处理模型的异构并行运行,以一个模块的运行时间掩盖另一个模块的运行时间,从而压缩图像处理模块的整体处理时间,但是又可以保证算法效果不变。
70.参见图2,图2示出了根据本说明书一个实施例提供的一种图片处理模型的训练方法的流程图,具体包括以下步骤。
71.其中,该图片处理模型的训练方法应用于模型训练系统,该系统包括终端和服务端。
72.步骤202:所述终端,在至少两个硬件分别部署图片处理模型的处理模块,根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,其中,所述目标图片的分辨率大于所述初始图片,在确定所述目标运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端。
73.其中,终端可以理解为上述术语解释中的端上;至少两个硬件包括但不限于终端中的cpu、gpu、dsp(数字信号处理器)、npu(网络处理器)等;初始图片包括但不限于任意类型、任意大小的低分辨率图片。
74.具体实施时,至少两个硬件包括cpu和非cpu(如gpu、dsp、npu等),终端将图片处理模型的处理模块分别部署在cpu和非cpu硬件上,后续可以实现图片处理模型在cpu和非cpu的异构并行运行,实现在不降低算法效果的基础上,提高该图片处理模型的运行效率。
75.实际应用中,非cpu可以为一个或多个,具体非cpu的选择可以根据具体应用情况进行设置,为了便于理解,以下实施例均以至少两个硬件包括cpu和一个非cpu,且非cpu为gpu进行介绍;但是并不限定至少两个硬件包括cpu和一个以上的非cpu实现方式。
76.而在至少两个硬件包括cpu和一个非cpu:gpu的情况下,部署在至少两个硬件上的图片处理模型的处理模块也包括至少两个;具体的,将图片处理模型的处理模块进行拆分,分别部署在对应的硬件上,以实现该图片处理模型后续在终端中的异构并行运行。那么针对图片处理模型中处理模块的拆分个数以及拆分方式,也可以根据具体应用进行设置,如将其拆分为两个处理模块或者拆分为三个处理模块等。为了便于理解,以下实施例中,均以将图片处理模型中的处理模块拆分为三个:第一处理模块、第二处理模块和第三处理模块为例进行详细介绍。
77.那么,在至少两个硬件包括cpu和gpu,图片处理模型中的处理模块包括:第一处理模块、第二处理模块和第三处理模块的情况下,在至少两个硬件分别部署图片处理模型的
处理模块的具体实现方式如下所述:
78.所述在至少两个硬件分别部署图片处理模型的处理模块,包括:
79.所述终端,在第一硬件部署图片处理模型的第一处理模块以及第三处理模块,在第二硬件部署所述图片处理模型的第二处理模块,其中,所述第一硬件与所述第二硬件不同。
80.其中,第一硬件为cpu的情况下,第二硬件则可以理解为非cpu,例如gpu。
81.以第一硬件为cpu,第二硬件为gpu为例,在第一硬件部署图片处理模型的第一处理模块以及第三处理模块,在第二硬件部署所述图片处理模型的第二处理模块,可以理解为,在cpu部署图片处理模型的第一处理模块和第三处理模块,在gpu部署图片处理模型的第二处理模块。
82.其中,第一处理模块可以理解为上述实施例中的cpu分支模块,第三处理模块可以理解为上述实施例中的cpu尾部模块,第二处理模块可以理解为上述实施例中的gpu分支模块。
83.本说明书实施例提供的图片处理模型的训练方法,在终端的两个不同硬件上分别部署图片处理模型的不同处理模块,使得后续图片处理模型对图片进行处理时,可以实现异构并行的运行方式,实现对图片的快速处理。
84.因此,在图片处理模型包括三个处理模块,且每个处理模块分别部署在不同的终端硬件的情况下,图片处理模型在对图片进行处理时,即可在不同处理模块对其实现异构并行的快速处理,从而节省模型运行时间。具体实现方式如下所述:
85.所述根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,包括:
86.所述终端,获取初始图片;
87.根据所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得目标图片、以及所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得所述目标图片的目标运行时间。
88.具体实施时,分别根据第一处理模块、第二处理模块以及第三处理模块对初始图片进行处理,获得与初始图片对应的目标图片、以及第一处理模块、第二处理模块以及第三处理模块对初始图片进行处理,获得目标图片的目标运行时间;其中,目标图片的分辨率大于初始图片的分辨率,即初始图片为低分辨率图片的情况下,目标图片为分辨率高于初始图片的高分辨率图片。
89.实际应用中,由于第一处理模块、第二处理模块以及第三处理模块均会对初始图片进行进行处理,那么第一处理模块、第二处理模块以及第三处理模块在进行初始图片处理时,会有存在其对应的运行时间,后续可以根据每个处理模块对应的运行时间,对其进行内部结构调整,从而优化图片处理模型的模型结构。具体的,确定每个处理模块在进行初始图片处理时的运行时间具体实现方式如下所述:
90.所述根据所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得目标图片、以及所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得所述目标图片的目标运行时间,包括:
91.所述终端,将所述初始图片输入所述第一处理模块,获得所述初始图片的图片特
征、以及所述第一处理模块输出所述图片特征的第一运行时间;
92.将所述初始图片输入所述第二处理模块,获得所述图片特征的特征权重、以及所述第二处理模块输出所述特征权重的第二运行时间;
93.将所述初始图片、所述图片特征以及所述特征权重输入所述第三处理模块,获得目标图片、以及所述第三处理模块输出所述目标图片的第三运行时间,
94.其中,所述目标运行时间包括所述第一运行时间、所述第二运行时间以及所述第三运行时间。
95.具体的,第一处理模块用于对初始图片的图片特征进行提取,第二处理模块用于对初始图片的图片特征的特征权重进行确定,第三处理模块用于根据初始图片、初始图片的图片特征以及图片特征的特征权重,确定该初始图片的高分辨率的目标图片。
96.那么,在根据第一处理模块、第二处理模块以及第三处理模块对初始图片进行处理,获得目标图片的具体过程如下所述:
97.首先,分别将初始图片输入第一处理模块以及第二处理模块,通过第一处理模块获得该初始图片的图片特征,以及该第一处理模块获得该图片特征的第一运行时间,同时,通过第二处理模块获得该初始图片的图片特征的特征权重、以及该第二处理模块获得该特征权重的第二运行时间。
98.然后,将初始图片、图片特征以及特征权重输入第三处理模块,获得该初始图片对应的高分辨率的目标图片,以及该第三处理模块获得该目标图片的第三运行时间。
99.本说明书实施例提供的图片处理模型的训练方法,分别获取第一处理模块、第二处理模块以及第三处理模块在对初始图片进行处理,获得目标图片的运行时间;后续可以根据每个处理模块进行图片处理的运行时间,调整模块结构,以优化图片处理模型。
100.那么,在获得每个处理模块进行图片处理的运行时间之后,则可以根据其运行时间判断出当前图片处理模型中的处理模型的结构是否合理,是否需要进行调整。具体实现方式如下所述:
101.所述在确定所述运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端,包括:
102.所述终端,将所述初始图片输入预设图片处理模型,获得所述目标图片、以及所述预设图片处理模型输出所述目标图片的测试运行时间;
103.在确定所述第一运行时间小于所述第二运行时间,并且所述第二运行时间以及所述第三运行时间之和小于所述测试运行时间的情况下,将所述第一处理模块、所述第二处理模块以及所述第三处理模块发送至所述服务端。
104.其中,预设图片处理模型可以理解为基准模型(basel ine模型),即与上述图片处理模型不同的、但是也可实现将初始图片到目标图片转换的图片处理模型。
105.此外,预设时间条件则可以理解为:第一运行时间小于第二运行时间,并且第二运行时间以及第三运行时间之和小于测试运行时间。
106.具体的,在通过图片处理模型的第一处理模块、第二处理模块以及第三处理模块对初始图片进行处理的同时,将初始图片也通过基准模型进行处理,获得该初始图片对应的目标图片,以及该基准模型处理该初始图片获得目标图片的测试运行时间。
107.当第一处理模块的第一运行时间小于第二处理模块的第二运行时间,并且第二处
理模型的第二运行时间与第三处理模块的第三运行时间之和小于该测试运行时间的情况下,可以确定图片处理模型的第一处理模块、第二处理模块以及第三处理模块的模块结构比较合理,可以使得图片处理模型在后续进行图片处理时的性能较优;此时,则将第一处理模块、第二处理模块以及第三处理模块发送至服务端,进行图片处理模型的模型训练。
108.反之,在处理模块对初始图片进行处理获得目标图片的目标运行时间不满足预设时间条件的情况下,则可以确定当前图片处理模型中处理模块的结构并不合理,需要对其进行结构调整,以满足图片处理模型的性能优化。具体实现方式如下所述:
109.所述获得所述处理模块输出目标图片的目标运行时间之后,还包括:
110.所述终端,在确定所述目标运行时间不满足所述预设时间条件的情况下,调整所述处理模块中卷积模块的数量;
111.继续执行所述将初始图片输入所述处理模块进行处理,获得所述处理模块输出目标图片的目标运行时间的步骤,直至所述目标运行时间满足所述预设时间条件。
112.其中,处理模块中包括卷积模块,而卷积模块的数量会影响图片处理模型的图片处理性能。
113.沿用上例,若目标运行时间包括第一运行时间、第二运行时间、第三运行时间,且预设时间条件为:第一运行时间小于第二运行时间,并且第二运行时间以及第三运行时间之和小于测试运行时间;则在第一运行时间大于等于第二运行时间,或者第二运行时间以及第三运行时间之和大于等于测试运行时间的情况下,则可以确定当前图片处理模型中处理模块结构不合理,无法使得图片处理模型对图片进行处理时实现性能较优;因此,则需要根据目标运行时间调整每个处理模块中卷积模块的数量;
114.然后,继续将初始图片输入到调整后的每个处理模块中进行处理,获得目标图片以及目标运行时间;再将目标运行时间与其上述条件进行匹配,直至该目标运行时间满足该预设时间条件时结束,同时将调整后的最终的第一处理模块、第二处理模块以及第三处理模块发送至服务端,进行图片处理模型的模型训练。
115.那么,具体的,所述终端,在确定所述目标运行时间不满足所述预设时间条件的情况下,调整所述处理模块中卷积模块的数量;
116.继续执行所述将初始图片输入所述处理模块进行处理,获得所述处理模块输出目标图片的目标运行时间的步骤,直至所述目标运行时间满足所述预设时间条件。
117.则可以理解为:所述终端,在确定第一运行时间大于等于第二运行时间,或者第二运行时间以及第三运行时间之和大于等于测试运行时间的情况下,调整第一处理模块、第二处理模块和/或第三处理模块中卷积模块的数量;
118.继续执行将初始图片输入第一处理模块、第二处理模块、第三处理模块进行处理,获得第一处理模块、第二处理模块、第三处理模块输出目标图片的第一运行时间、第二运行时间以及第三运行时间的步骤,直至第一运行时间、第二运行时间以及第三运行时间满足上述预设时间条件;即满足第一运行时间小于第二运行时间,并且第二运行时间以及第三运行时间之和小于测试运行时间的条件。
119.步骤204:所述服务端,对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端。
120.而在终端将调整好的图片处理模型的第一处理模块、第二处理模块以及第三处理
模块发送至服务端后;服务端则可以对从终端接收的第一处理模块、第二处理模块以及第三处理模块进行训练,获得训练后的图片处理模型,再将该训练后的图片处理模型发送至终端。
121.具体的,图片处理模型的训练步骤如下所述:
122.所述对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端,包括:
123.所述服务端,获取训练样本集,其中,所述训练样本集中包括至少一个初始样本图片,以及所述至少一个初始样本图片对应的目标样本图片,且所述目标样本图片的分辨率大于所述初始样本图片;
124.将所述至少一个初始样本图片作为训练样本,将所述至少一个初始样本图片对应的目标样本图片作为样本标签;
125.根据所述训练样本以及所述样本标签对接收的所述第一处理模块、所述第二处理模块以及所述第三处理模块进行训练,所述获得图片处理模型;
126.将所述图片处理模型发送至所述终端。
127.实际应用中,可以在服务端根据训练样本集对图片处理模型进行训练,也可以将图片处理模型的第一处理模块、第二处理模块以及第三处理模块分别放置到不同的边缘节点上进行训练,后续再实现分布式模型训练,提高模型的训练效率,节约服务端的计算资源。具体的训练方式可以根据实际应用进行设置,本说明书实施例对此不作任何限定。
128.那么,服务端将训练好的图片处理模型发送至终端之后,终端则可以继续按照异构并行的方式部署该图片处理模型,使得该图片处理模型在后续进行图片处理时可以通过异构并行的运行方式,在不降低算法效果的基础上,提高其处理性能。具体实现方式如下所述:
129.所述将所述图片处理模型发送至所述终端之后,还包括:
130.所述终端,将所述图片处理模型的第一处理模块以及第三处理模块部署至所述第一硬件;
131.将所述图片处理模型的第二处理模块部署至所述第二硬件。
132.其中,第一处理模块、第二处理模块、第三处理模块;以及第一硬件、第二硬件的具体解释可以参见上述实施例,在此不再赘述。
133.本说明书实施例提供的图片处理模型的训练方法通过在终端的至少两个硬件部署图片处理模型的处理模块,在部署在至少两个硬件的图片处理模型的处理模块,对初始图片处理的目标运行时间满足预设时间条件的情况下,确定该图片处理模型此种结构部署在该终端时,图片处理性能较优;再将该图片处理模型发送至服务端进行训练后部署,实现后续终端在使用该图片处理模型进行图片处理时,在保持算法效果不降低的情况下,图片处理模型的性能也较优。
134.此外,先在终端上对图片处理模型中每个处理模块的结构进行确定,再将每个终端上对应的图片处理模型发送至服务端进行模型训练,会使得每个终端在应用训练后的图片处理模型时,均会有较优的图片处理效果;例如低端移动设备,若采用的图片处理模型的结构不合理,可能会造成不兼容,或者是图片处理效果差;那么在低端移动设备上先对图片处理模型结构进行确定,再进行图片处理模型训练,那么训练后的图片处理模型在部署到
低端移动设备上时,就可以避免上述问题。并且,为了避免每个终端均要进行图片处理模型结构的确定,造成计算资源的浪费,可以在每种类型的移动设备中找到一个中位的移动设备,在该移动设备上进行图片处理模型结构的确定后,再发送至服务端进行模型训练,那么训练后获得的图片处理模型就可以适配大多数的终端。
135.因此,采用本说明书实施例提供的图片处理模型的训练方法获得的图片处理模型,也可以实现部署在低端移动设备中,能够在低端移动设备上也能实时进行超分任务的处理。
136.参见图3,图3示出了本说明书一个实施例提供的一种图片处理模型的结构示意图。
137.具体的,图片处理模型包括第一处理模块302、第二处理模块304、第三处理模块306,其中,所述第一处理模块302包括至少一个第一卷积模块3022和至少一个第二卷积模块3024,并且所述第一处理模块以及所述第三处理模块部署在终端的第一硬件;
138.所述第二处理模块包括下采样模块3042、上采样模块3044以及第二处理子模块3046,并且所述第二处理模块部署在所述终端的第二硬件,所述第一硬件与所述第二硬件不同,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
139.其中,第一处理模块302、第二处理模块304、第三处理模块306;以及第一硬件、第二硬件的详细解释,可以参见上述实施例的介绍,在此不再赘述。
140.并且,第一卷积模块3022可以理解为ecb模块,也可以其他卷积模块;而在第一卷积模块3022为ecb模块的情况下,第二卷积模块则可以理解为ecb-linear,即ecb模块中移除激活之后的模块。
141.此外,图片处理模块,还包括:
142.所述下采样模块3042包括至少一个第一卷积模块以及至少一个预设步长的第三卷积模块,
143.所述上采样模块3044包括像素重组模块以及至少一个第一卷积模块,
144.所述第二处理子模块3046包括至少两个第一卷积模块。
145.其中,第一卷积模块可以理解为上述的第一卷积模块3022;第三卷积模块可以理解为stride(步长)=2或3的卷积模块。
146.实际应用中,第一处理模块302为cpu_branch模块(即cpu分支模块)的情况下,可以由cpu_m+1个ecb模块(第一卷积模块3022)组成,其中,ecb-linear模块(第二卷积模块3024)为必选模块,其余的cpu_m个ecb模块可根据实际应用环境和算法效果进行调节,且cpu_m的取值大于等于0,且为正整数。
147.第二处理模块304为gpu_branch模块(即gpu分支模块)的情况下,可以由down sample block(即下采样模块3042)、up sample block(即上采样模块3044)、gpu_block(即第二处理子模块3046)这3个模块组成。其中,down sample block下采样模块,可以由gpu_dm+1个ecb模块(第一卷积模块)和一个stride=2的卷积模块(即第三卷积模块)组成,且gpu_dm的取值可以大于等于0,且为正整数,具体可根据实际应用环境和算法效果对gpu_dm进行调节;up sample block上采样模块,可以由pixelshuffle(ps)操作(像素重组模块)和um个ecb模块(即第一卷积模块)组成,且um的取值可以大于等于0,且为正整数,具体可根据实际应用环境和算法效果对um个数进行调节;gpu_block第二处理子模块是gpu的backbone
(模型的主干网络),可以由gpu_m个gpu_block组成,且每个gpu_block模块包含由2个ecb模块组成的残差网络。
148.具体实施时,在图片处理模型包括cpu_branch模块、gpu_branch模块以及cpu_tail模块(即cpu尾部模块)的情况下,cpu_branch模块以及cpu_tail模块在端上cpu中运行,gpu_branch模块在端上gpu中运行,cpu_branch模块和gpu_branch模块为异构并行关系。图片处理模型在端上具体运行时,gpu_branch模块执行的时间掩藏了cpu_branch模块执行的时间,两个模块总的运行时间由gpu_branch模块的运行时间决定,即图片处理模型在端上运行时,整体的运行时间满足以下两个条件时,该图片处理模型的性能较优,且算法效果不变:
149.tcpu_branch《tgpu_branch
150.tgpu_branch+tcpu_tail《tgpu_m4c4
151.其中,tcpu_branch、tcpu_tail分别表示cpu_branch模块、cpu_tail模块分别在cpu中独立运行的时间,tgpu_branch表示gpu_branch模块在gpu中独立运行的时间,tgpu_m4c4表示baseline模型,即未进行优化之前整体模型运行的时间。
152.通过上述条件,图片处理模型中的cpu_branch模块和gpu_branch模块在端上异构并行运行,可以达到压缩运行时间的目的。
153.而在通过图片处理模型进行超分运算时,将lr(低分辨率)的图片输入该图片处理模型,通过cpu_branch模块和gpu_branch模块异构并行处理后,再由cpu_tail模块通过如下公式进行运算,即可获得hr(高分辨率)图片:
154.y=x+query*key
155.其中,x表示输入的低分辨率图像/视频帧的y通道,query表示cpu_branch模块的输出,key表示gpu_branch模块的输出。
156.该运算是通过简化注意力机制在端上的高效实现,具有良好的算法效果保持;并且在实际应用中,还可以通过对cpu_tail模块中3个op(把多个计算单元合并为一个计算单元,加快计算速度),即'+','*','ps(像素重组,一种上采样算子)'进行op合并、neon(多数据加速指令)、并行等优化,进一步优化cpu_tail模块的性能。
157.图片处理模块通过cpu_tail模块即可实现低分辨率图像到高分辨率图像的转换。
158.本说明书实施例提供的一种图片处理模型,把一个图片处理模型拆分为多个模块,将cpu_branch模块和gpu_branch模块分别部署在端上的cpu和非cpu中进行异构并行,以掩藏cpu_branch模块在cpu中的运行时间,从而达到压缩整体模型推理时间的目的,并且算法效果可以保持不变;并且后续端上采用该图片处理模型进行超分处理时,通过异构并行和下采样等结构,减少了gpu-cpu间内存/显存的带宽开销,解决了端上超分性能较优时,带来的显存带宽开销较大的问题。
159.针对图片处理模型进行实际效果实验时,该图片处理模型在与baseline算法-m4c4算法效果不变的情况下,推理加速比2.2(6.67ms vs 14.847ms),实现了与原模型相比大于2倍的性能加速,模型能够以6.67ms的速度进行实时推理。
160.参见图4,图4示出了本说明书一个实施例提供的一种应用于终端的图片处理方法的流程示意图,具体包括以下步骤。
161.步骤402:将初始图片分别输入,图片处理模型的第一处理模块以及第二处理模
块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件。
162.其中,本说明书实施例提供的该图片处理模型,可以理解为通过上述图片处理模型的训练方法获得的模型,且图片处理模型的模型结构与上述实施例提供的一种图片处理模型的结构相同。
163.并且,初始图片、第一处理模块、第二处理模块、第三处理模块;以及第一硬件、第二硬件的详细描述,也可以参见上述实施例的具体介绍,在此不再赘述。
164.具体的,在通过图片处理模型对初始图片进行处理之前,需要终端需要从服务端获取到预先训练的图片处理模型,并将该图片处理模型的不同模块分别部署在不同的硬件上,以实现后续的异构并行处理。具体实现方式如下所述:
165.所述将初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块之前,还包括:
166.接收服务端发送的图片处理模型,将所述图片处理模型的第一处理模块以及第三处理模块部署在第一硬件;
167.将所述图片处理模型的第二处理模块部署在第二硬件,其中,所述第一硬件与所述第二硬件不同。
168.其中,服务端发送的图片处理模型可以根据上述图片处理模型的训练方法,在终端上进行模型结构的确定后,在服务端预先训练获得。
169.实际应用中,终端向服务端发送图片处理模型获取指令,服务端响应于该指令向终端发送预先训练好的图片处理模型;终端在接收到该图片处理模型之后,按照之前进行模型结构确定的部署方式,将图片处理模型的cpu_branch模块以及cpu_tail模块部署在cpu;将gpu_branch模块部署在gpu,使得该图片处理模型在后续对初始图片处理时,实现异构并行处理。
170.本说明书实施例提供的图片处理方法,终端从服务端获取预先训练好的图片处理模型,并将该图片处理模型进行模块拆分,分别部署在不同硬件中,使得该图片处理模型后续在运行的过程中,可以在不降低算法效果的基础上,提升其运行性能。
171.步骤404:获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重。
172.具体的,在将待处理的初始图片输入第一处理模块以及第二处理模块之后,第一处理模块输出该初始图片的图片特征,第二处理模块输出该图片特征的特征权重。
173.步骤406:将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片。
174.其中,所述目标图片的分辨率大于所述初始图片,且所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
175.而在获得该初始图片的图片特征以及特征权重之后,将初始图片、图片特征以及图片特征的特征权重,输入图片处理模型的第三处理模块,即可获得该初始图片对应的目标图片。
176.具体的,所述将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,包括:
177.将所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处
理模块进行处理,获得像素差异值;
178.将所述初始图片的像素值以及所述像素差异值输入所述图片处理模型的第三处理模块进行处理,获得所述初始图片对应的目标图片。
179.具体实施时,将图片特征以及图片特征的特征权重,输入图片处理模型的第三处理模块;该第三处理模块会根据该图片特征以及图片特征的特征权重,计算出像素差异值;再根据该初始图片的像素值以及像素差异值进行处理,即可获得该初始图片对应的目标图片。
180.实际应用中,图片处理模型在进行模型训练时,也是学习低分辨率图片以及高分辨率图片的差异值;而在具体应用中,将低分辨率图片输入图片处理模型进行处理时,图片处理模型即会根据学习到的像素差异值与初始图片的当前像素值,确定该初始图片对应的目标图片。
181.本说明书实施例提供的图片处理方法中,终端接收的服务端发送的图片处理模型拆分为多个模块部署在不同的硬件上,使得这些模块在具体实现时可以异构并行运行,以掩藏模块在单一硬件设备中的运行时间,从而压缩整体模型推理时间,提高图片处理效率,且不影响其图片处理准确性。
182.实际应用中,以使用预设推理框架的、a品牌手机对480x720的图片进行超分的耗时为例,进行具体实验。
183.分别以六个模型分别部署在上述手机上,对480x720分辨率的低分辨率图片进行超分所用的耗时为例进行实验,其中,六个模型包括两个m4c4模型(即baseline模型一)、两个m4c8模型(即baseline模型二)和两个不同配置的异构模型(如ecbsr_tr),其中,第一个m4c4模型中使用普通卷积模块,不使用ecb模块;第二个m4c4模型中使用ecb模块;第一个m4c8模型中使用普通卷积模块,不使用ecb模块;第二个m4c8模型中使用ecb模块;第一个ecbsr_tr的参数配置为:cpu_m=1,cpu_c=4,gpu_dm=2,gpu_dc=4,gpu_m=1,gpu_c=4,gpu_um=0,gpu_uc=1;第二个ecbsr_tr的参数配置为:cpu_m=1,cpu_c=4,gpu_dm=0,gpu_dc=4,gpu_m=1,gpu_c=4,gpu_um=0,gpu_uc=1。
184.并且,六个模型的scale(超分放大倍数)均放大2倍,采用相同的训练集(movie_4k);第一个m4c4模型用于测试的数据集(movie_4k_test_191105)为38.5013db(分贝);第二个m4c4模型用于测试的数据集为38.6462;第一个m4c8模型用于测试的数据集为38.7615;第二个m4c8模型用于测试的数据集为39.0231;第一个ecbsr_tr用于测试的数据集为38.7229;第二个ecbsr_tr用于测试的数据集为38.5256;六个模型用于训练的bs(即batchsize)大小均为32,训练时使用的gpu(ngpu)数目均为2;训练总共迭代次数(iter)均为100000次;第一个ecbsr_tr模型和第二个ecbsr_tr模型的cpu分支运行耗时时间(cpu_branch)均为2.632毫秒;第一个ecbsr_tr模型和第二个ecbsr_tr模型的cpu尾部运行耗时时间(cpu_tail)均为0.652毫秒。
185.第一个m4c4模型和第二个m4c4模型的gpu分支运行耗时时间(gpu_branch)均为14.847毫秒;第一个m4c8模型和第二个m4c8模型的gpu分支运行耗时时间均为18.298毫秒;第一个ecbsr_tr模型的gpu分支运行耗时时间为9.278毫秒;第二个ecbsr_tr模型的gpu分支运行耗时时间为6.018毫秒。
186.综上所述,两个m4c4模型的整体运行耗时时间(total)为14.847毫秒;两个m4c8模
型的整体运行耗时时间为18.298毫秒;第一个ecbsr_tr模型的整体运行耗时时间为9.93毫秒;第二个ecbsr_tr模型的整体运行耗时时间为6.67毫秒。
187.通过上述实验结果可知,在相同手机上对相同分辨率的图片进行超分处理时,采用异构模型时整体运行耗时时间较少。
188.参见图5,图5示出了本说明书一个实施例提供的另一种图片处理方法的流程示意图,具体包括以下步骤。
189.步骤502:接收用户通过图片输入界面输入的初始图片;
190.步骤504:将所述初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
191.步骤506:获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
192.步骤508:将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,其中,所述目标图片的分辨率大于所述初始图片;
193.步骤510:将所述目标图片通过图片展示界面展示给所述用户,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
194.具体的,本说明书实施例提供的图片处理方法的执行主体可以为终端,即终端接收用户通过其图片输入界面输入的初始图片;通过图片处理模型进行各种图片处理后,获得分辨率大于该初始图片的目标图片。其中,通过图片处理模型进行图片处理的详细步骤可以参见上述实施例,在此不再赘述。
195.另外一种可实现方式中,该图片处理方法的用户交互实现,也可以是用户在观看视频的时候,点击终端的视频观看软件中的转高清或者超高清的分辨率转换控件后,触发终端对当前播放视频的每个视频帧进行低分辨率到高分辨率的转换,而具体的分辨率转换算法即可采用本说明书实施例的图片处理方法实现。
196.本说明书实施例提供的图片处理方法中,终端在接收到用户的图片分辨率转换请求后,即可触发该图片处理方法实现低分辨率的初始图片至高分辨率的目标图片的转换,即终端将接收的服务端发送的图片处理模型拆分为多个模块部署在不同的硬件上,使得这些模块在具体实现时可以异构并行运行,以掩藏模块在单一硬件设备中的运行时间,从而压缩整体模型推理时间,提高图片分辨率转换的效率,且不影响其图片分辨率转换后图片内容的准确性。
197.参见图6,图6示出了本说明书一个实施例提供的一种图片处理模型的训练系统,包括终端602和服务端604,其中,
198.所述终端602,被配置为在至少两个硬件分别部署图片处理模型的处理模块,根据所述处理模块对初始图片进行处理,获得所述处理模块输出目标图片的目标运行时间,其中,所述目标图片的分辨率大于所述初始图片,
199.在确定所述目标运行时间满足预设时间条件的情况下,将所述处理模块发送至所述服务端604;
200.所述服务端604,被配置为对接收的所述处理模块进行训练,获得所述图片处理模型,并将所述图片处理模型发送至所述终端602。
201.可选地,所述终端602,在第一硬件部署图片处理模型的第一处理模块以及第三处理模块,在第二硬件部署所述图片处理模型的第二处理模块,其中,所述第一硬件与所述第二硬件不同。
202.可选地,所述终端602,获取初始图片;
203.根据所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得目标图片、以及所述第一处理模块、所述第二处理模块以及所述第三处理模块对所述初始图片进行处理,获得所述目标图片的目标运行时间。
204.可选地,所述终端602,将所述初始图片输入所述第一处理模块,获得所述初始图片的图片特征、以及所述第一处理模块输出所述图片特征的第一运行时间;
205.将所述初始图片输入所述第二处理模块,获得所述图片特征的特征权重、以及所述第二处理模块输出所述特征权重的第二运行时间;
206.将所述初始图片、所述图片特征以及所述特征权重输入所述第三处理模块,获得目标图片、以及所述第三处理模块输出所述目标图片的第三运行时间,
207.其中,所述目标运行时间包括所述第一运行时间、所述第二运行时间以及所述第三运行时间。
208.可选地,所述终端602,将所述初始图片输入预设图片处理模型,获得所述目标图片、以及所述预设图片处理模型输出所述目标图片的测试运行时间;
209.在确定所述第一运行时间小于所述第二运行时间,并且所述第二运行时间以及所述第三运行时间之和小于所述测试运行时间的情况下,将所述第一处理模块、所述第二处理模块以及所述第三处理模块发送至所述服务端604。
210.可选地,所述终端602,在确定所述目标运行时间不满足所述预设时间条件的情况下,调整所述处理模块中卷积模块的数量;
211.继续执行所述将初始图片输入所述处理模块进行处理,获得所述处理模块输出目标图片的目标运行时间的步骤,直至所述目标运行时间满足所述预设时间条件。
212.可选地,所述服务端604,获取训练样本集,其中,所述训练样本集中包括至少一个初始样本图片,以及所述至少一个初始样本图片对应的目标样本图片,且所述目标样本图片的分辨率大于所述初始样本图片;
213.将所述至少一个初始样本图片作为训练样本,将所述至少一个初始样本图片对应的目标样本图片作为样本标签;
214.根据所述训练样本以及所述样本标签对接收的所述第一处理模块、所述第二处理模块以及所述第三处理模块进行训练,所述获得图片处理模型;
215.将所述图片处理模型发送至所述终端602。
216.可选地,所述终端602,将所述图片处理模型的第一处理模块以及第三处理模块部署至所述第一硬件;
217.将所述图片处理模型的第二处理模块部署至所述第二硬件。
218.本说明书实施例提供的图片处理模型的训练装置,通过在终端的至少两个硬件部署图片处理模型的处理模块,在部署在至少两个硬件的图片处理模型的处理模块,对初始图片处理的目标运行时间满足预设时间条件的情况下,确定该图片处理模型此种结构部署在该终端时,图片处理性能较优;再将该图片处理模型发送至服务端进行训练后部署,实现
后续终端在使用该图片处理模型进行图片处理时,在保持算法效果不降低的情况下,图片处理模型的性能也较优。
219.上述为本实施例的一种图片处理模型的训练装置的示意性方案。需要说明的是,该图片处理模型的训练装置的技术方案与上述的图片处理模型的训练方法的技术方案属于同一构思,图片处理模型的训练装置的技术方案未详细描述的细节内容,均可以参见上述图片处理模型的训练方法的技术方案的描述。
220.参见图7,图7示出了本说明书一个实施例提供的一种应用于终端的图片处理装置的结构示意图。
221.具体的,图片处理装置包括:
222.第一输入模块702,被配置为将初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
223.第一获得模块704,被配置为获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
224.第二输入模块706,被配置为将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,
225.其中,所述目标图片的分辨率大于所述初始图片,且所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
226.可选地,所述装置,还包括:
227.模型部署模块,被配置为:
228.接收服务端发送的图片处理模型,将所述图片处理模型的第一处理模块以及第三处理模块部署在第一硬件;
229.将所述图片处理模型的第二处理模块部署在第二硬件,其中,所述第一硬件与所述第二硬件不同。
230.可选地,所述第二输入模块706,进一步被配置为:
231.将所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块进行处理,获得像素差异值;
232.将所述初始图片的像素值以及所述像素差异值输入所述图片处理模型的第三处理模块进行处理,获得所述初始图片对应的目标图片。
233.本说明书实施例提供的图片处理装置,终端接收的服务端发送的图片处理模型拆分为多个模块部署在不同的硬件上,使得这些模块在具体实现时可以异构并行运行,以掩藏模块在单一硬件设备中的运行时间,从而压缩整体模型推理时间,提高图片处理效率,且不影响其图片处理准确性。
234.上述为本实施例的一种图片处理装置的示意性方案。需要说明的是,该图片处理装置的技术方案与上述的图片处理方法的技术方案属于同一构思,图片处理装置的技术方案未详细描述的细节内容,均可以参见上述图片处理方法的技术方案的描述。
235.参见图8,图8示出了本说明书一个实施例提供的另一种图片处理装置的结构示意图。
236.具体的,该图片处理装置,包括:
237.图片接收模块802,被配置为接收用户通过图片输入界面输入的初始图片;
238.第三输入模块804,被配置为将所述初始图片分别输入,图片处理模型的第一处理模块以及第二处理模块,其中,所述第一处理模块和所述第二处理模块分别运行在不同硬件;
239.第二获得模块806,被配置为获得所述第一处理模块输出的所述初始图片的图片特征,以及所述第二处理模块输出的所述图片特征的特征权重;
240.第四输入模块808,被配置为将所述初始图片、所述图片特征以及所述图片特征的特征权重,输入所述图片处理模型的第三处理模块,获得所述初始图片对应的目标图片,其中,所述目标图片的分辨率大于所述初始图片;
241.展示模块810,被配置为将所述目标图片通过图片展示界面展示给所述用户,其中,所述图片处理模型为通过上述图片处理模型的训练方法获得的模型。
242.本说明书实施例提供的图片处理装置,终端在接收到用户的图片分辨率转换请求后,即可触发该图片处理方法实现低分辨率的初始图片至高分辨率的目标图片的转换,即终端将接收的服务端发送的图片处理模型拆分为多个模块部署在不同的硬件上,使得这些模块在具体实现时可以异构并行运行,以掩藏模块在单一硬件设备中的运行时间,从而压缩整体模型推理时间,提高图片分辨率转换的效率,且不影响其图片分辨率转换后图片内容的准确性。
243.上述为本实施例的另一种图片处理装置的示意性方案。需要说明的是,该另一种图片处理装置的技术方案与上述的另一种图片处理方法的技术方案属于同一构思,另一种图片处理装置的技术方案未详细描述的细节内容,均可以参见上述另一种图片处理方法的技术方案的描述。
244.图9示出了根据本说明书一个实施例提供的一种计算设备900的结构框图。该计算设备900的部件包括但不限于存储器910和处理器920。处理器920与存储器910通过总线930相连接,数据库950用于保存数据。
245.计算设备900还包括接入设备940,接入设备940使得计算设备900能够经由一个或多个网络960通信。这些网络的示例包括公用交换电话网(pstn)、局域网(lan)、广域网(wan)、个域网(pan)或诸如因特网的通信网络的组合。接入设备940可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(nic))中的一个或多个,诸如ieee802.11无线局域网(wlan)无线接口、全球微波互联接入(wi-max)接口、以太网接口、通用串行总线(usb)接口、蜂窝网络接口、蓝牙接口、近场通信(nfc)接口,等等。
246.在本说明书的一个实施例中,计算设备900的上述部件以及图9中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图9所示的计算设备结构框图仅仅是出于示例的目的,而不是对本说明书范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
247.计算设备900可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或pc的静止计算设备。计算设备900还可以是移动式或静止式的服务器。
248.其中,处理器920用于执行如下计算机可执行指令,该计算机可执行指令被处理器
执行时实现上述图片处理模型的训练方法或图片处理方法的步骤。
249.上述为本实施例的一种计算设备的示意性方案。需要说明的是,该计算设备的技术方案与上述的图片处理模型的训练方法或图片处理方法的技术方案属于同一构思,计算设备的技术方案未详细描述的细节内容,均可以参见上述图片处理模型的训练方法或图片处理方法的技术方案的描述。
250.本说明书一实施例还提供一种计算机可读存储介质,其存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现上述图片处理模型的训练方法或图片处理方法的步骤。
251.上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的图片处理模型的训练方法或图片处理方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述图片处理模型的训练方法或图片处理方法的技术方案的描述。
252.本说明书一实施例还提供一种计算机程序,其中,当所述计算机程序在计算机中执行时,令计算机执行上述图片处理模型的训练方法或图片处理方法的步骤。
253.上述为本实施例的一种计算机程序的示意性方案。需要说明的是,该计算机程序的技术方案与上述的图片处理模型的训练方法或图片处理方法的技术方案属于同一构思,计算机程序的技术方案未详细描述的细节内容,均可以参见上述图片处理模型的训练方法或图片处理方法的技术方案的描述。
254.上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
255.所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
256.需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本说明书实施例并不受所描述的动作顺序的限制,因为依据本说明书实施例,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本说明书实施例所必须的。
257.在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
258.以上公开的本说明书优选实施例只是用于帮助阐述本说明书。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书实施
例的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本说明书实施例的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本说明书。本说明书仅受权利要求书及其全部范围和等效物的限制。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1