一种分布式资源调度方法及装置制造方法

文档序号:7783258阅读:266来源:国知局
一种分布式资源调度方法及装置制造方法
【专利摘要】一种分布式资源调度方法及装置。该方法包括:按照预定的获取步骤获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,当该第一标准差大于或等于调度阈值时,将分布式集群系统中任一服务器的同一类型业务虚拟机平衡调度至分布式集群系统的其他服务器中,重新按照预定的获取步骤获取平衡调度后的各服务器内的同一类型业务虚拟机的资源使用率的第二标准差,比较至少一次平衡调度后获取的第二标准差,执行最小的第二标准差对应的平衡调度。通过按照分布式集群系统中各服务器内业务虚拟机的类型,或按照各服务器内各类业务虚拟机占所在服务器的资源比例进行分布式资源调度,可以保证各服务器内各业务虚拟机的服务质量。
【专利说明】一种分布式资源调度方法及装置
【技术领域】
[0001]本发明涉及资源调度技术,尤其涉及一种分布式资源调度方法及装置。
【背景技术】
[0002]在虚拟化或云计算的解决方案里,服务器集群中的每个服务器一般包括运行不同类型业务的多个虚拟机,当不同类型的业务部署在同一个服务器即计算节点时,比如一个计算节点同时有桌面云虚拟机和编译业务虚拟机,需要考虑如何保证各自的服务质量,确保各虚拟机的资源占用不相互干扰,并能最大化的利用集群资源。
[0003]在现有技术中,采用服务质量技术(Quality of Service, QoS)保证同一个计算节点不同类型业务的服务质量,它要求不同类型虚拟机的总量和比例保持稳定,比如一个计算节点有40个虚拟机,其中桌面云虚拟机15个,编译云虚拟机25个,通过设置虚拟机份额高、中、低,确保高份额的虚拟机获取相当份额的资源;采用分布式资源调度程序(Distributed Resource Scheduler, DRS),使集群内的资源利用率最大化,比如,DRS将重载的虚拟机迁移到负载低的服务器中,此时重载虚拟机的资源占用率得到了改善,同时原服务器其它虚拟机的资源占用率也得到了改善,集群整体的资源占用率得到了提升。
[0004]然而,启动DRS后,若虚拟机迁移至其它的服务器,则会使服务器内的不同类型的业务虚拟机比例失衡,从而,启动DRS后,如何保证各服务器内各业务虚拟机的服务质量是目前迫切需要解决的问题。

【发明内容】

[0005]本发明实施例提供了一种分布式资源调度方法及装置,可以在分布式资源调度时,保证各服务器内各业务虚拟机的服务质量。
[0006]第一方面,提供了一种分布式资源调度方法,包括:
[0007]获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率;
[0008]根据所述各服务器内的同一类型业务虚拟机的资源使用率,通过预定的获取步骤获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,所述获取步骤为:根据所述各服务器内的同一类型业务虚拟机的资源使用率获取所述各服务器内的同一类型业务虚拟机的平均资源使用率,并根据所述各服务器内的同一类型业务虚拟机的资源使用率以及所述平均资源使用率,获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差;
[0009]当所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差大于或等于所述各服务器内的同一类型业务虚拟机的资源使用率的调度阈值时,将所述分布式集群系统中任一服务器的所述同一类型业务虚拟机平衡调度至分布式集群系统的其他服务器中;
[0010]获取平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率;[0011]根据所述平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率,通过所述预定的获取步骤获取所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差;
[0012]比较至少一次所述平衡调度后获取的所述第二标准差,执行最小的所述第二标准差对应的所述平衡调度。
[0013]在第一种可能的实现方式中,所述比较至少一次所述平衡调度后获取的所述第二标准差,执行最小的所述第二标准差对应的所述平衡调度之前,所述方法还包括:
[0014]若进行下一次平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差大于或等于进行当前平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,则停止执行所述获取步骤及下一次的平衡调度。
[0015]第二方面,提供了一种分布式资源调度方法,包括:
[0016]根据分布式集群系统中各服务器内各类业务虚拟机占所述各服务器的资源的比例和所述各服务器内各类业务虚拟机的资源使用率,获取所述各服务器的资源使用率;
[0017]根据所述各服务器的资源使用率,通过预定的获取步骤获取所述分布式集群系统的资源使用率的第三标准差,所述获取步骤为:根据所述各服务器的资源使用率获取所述分布式集群系统的平均资源使用率,并根据所述各服务器的资源使用率以及所述分布式集群系统的平均资源使用率,获取所述分布式集群系统的资源使用率的第三标准差;
[0018]当所述分布式集群系统的资源使用率的第三标准差大于或等于所述分布式集群系统的资源使用率的调度阈值时,将所述各服务器内任一业务虚拟机平衡调度至所述分布式集群系统的其他服务器中;
[0019]获取平衡调度后分布式集群系统中各服务器的资源使用率;
[0020]根据所述平衡调度后分布式集群系统中各服务器的资源使用率,通过所述预定的获取步骤获取所述平衡调度后分布式集群系统的资源使用率的第四标准差;
[0021]比较至少一次所述平衡调度后获取的所述第四标准差,执行最小的所述第四标准差对应的所述平衡调度。
[0022]在第一种可能的实现方式中,所述比较至少一次所述平衡调度后获取的所述第四标准差,执行最小的所述第四标准差对应的所述平衡调度之前,所述方法还包括:
[0023]若进行下一次平衡调度后所述分布式集群系统的资源使用率的第四标准差大于或等于进行当前平衡调度后所述分布式集群系统的资源使用率的第四标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,或将所述业务虚拟机从任一第一服务器平衡调度至任一第二服务器后,所述任一第一服务器或所述任一第二服务器中各类业务虚拟机的总量的变化大于第二设定阈值,和/或所述任一第一服务器或所述任一第二服务器中各类业务虚拟机占所述任一第一服务器的资源的的变化大于第三设定阈值,则停止执行所述获取步骤及下一次的平衡调度。
[0024]第三方面,提供了一种分布式资源调度装置,包括:
[0025]第一获取单元,用于获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率;
[0026]第二获取单元,用于根据所述各服务器内的同一类型业务虚拟机的资源使用率,通过预定的获取方式获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,所述获取方式为:根据所述各服务器内的同一类型业务虚拟机的资源使用率获取所述各服务器内的同一类型业务虚拟机的平均资源使用率,并根据所述各服务器内的同一类型业务虚拟机的资源使用率以及所述平均资源使用率,获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差;
[0027]第一调度单元,用于当所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差大于或等于所述各服务器内的同一类型业务虚拟机的资源使用率的调度阈值时,将所述分布式集群系统中任一服务器的所述同一类型业务虚拟机平衡调度至分布式集群系统的其他服务器中;
[0028]第三获取单元,用于获取平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率;
[0029]第四获取单元,用于根据所述平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率,通过所述预定的获取方式获取所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差;
[0030]第一比较单元,用于比较至少一次所述平衡调度后获取的所述第二标准差;
[0031]第一执行单元,用于执行最小的所述第二标准差对应的所述平衡调度。
[0032]在第一种可能的实现方式中,所述第一执行单元还用于:
[0033]若进行下一次平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差大于或等于进行当前平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,则停止执行所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差的获取及下一次的平衡调度。
[0034]第四方面,提供了一种分布式资源调度装置,包括:
[0035]第五获取单元,用于根据分布式集群系统中各服务器内各类业务虚拟机占所述各服务器的资源的比例和所述各服务器内各类业务虚拟机的资源使用率,获取所述各服务器的资源使用率;
[0036]第六获取单元,用于根据所述各服务器的资源使用率,通过预定的获取方式获取所述分布式集群系统的资源使用率的第三标准差,所述获取方式为:根据所述各服务器的资源使用率获取所述分布式集群系统的平均资源使用率,并根据所述各服务器的资源使用率以及所述分布式集群系统的平均资源使用率,获取所述分布式集群系统的资源使用率的第二标准差;
[0037]第二调度单元,用于当所述分布式集群系统的资源使用率的第三标准差大于或等于所述分布式集群系统的资源使用率的调度阈值时,将所述各服务器内任一业务虚拟机平衡调度至所述分布式集群系统的其他服务器中;
[0038]第七获取单元,用于获取平衡调度后分布式集群系统中各服务器的资源使用率;
[0039]第八获取单元,用于根据所述平衡调度后分布式集群系统中各服务器的资源使用率,通过所述预定的获取方式获取所述平衡调度后分布式集群系统的资源使用率的第四标准差;
[0040]第二比较单元,用于比较至少一次所述平衡调度后获取的所述第四标准差;[0041]第二执行单元,用于执行最小的所述第四标准差对应的所述平衡调度。
[0042]在第一种可能的实现方式中,所述第二执行单元还用于:
[0043]若进行下一次平衡调度后所述分布式集群系统的资源使用率的第四标准差大于或等于进行当前平衡调度后所述分布式集群系统的资源使用率的第四标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,或将所述业务虚拟机从任一第一服务器平衡调度至任一第二服务器后,所述任一第一服务器或所述任一第二服务器中各类业务虚拟机的总量的变化大于第二设定阈值,和/或所述任一第一服务器或所述任一第二服务器中各类业务虚拟机占所述任一第一服务器的资源的的变化大于第三设定阈值,则停止执行所述平衡调度后分布式集群系统的资源使用率的获取及下一次的平衡调度。
[0044]采用本发明实施例提供的一种分布式资源调度方法及装置的技术方案,通过按照分布式集群系统中各服务器内业务虚拟机的类型,或按照各服务器内各类业务虚拟机占所在服务器的资源比例进行分布式资源调度,可以保证各服务器内各业务虚拟机的服务质量。
【专利附图】

【附图说明】
[0045]为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0046]图1为本发明实施例提供的一种分布式资源调度方法的流程示意图;
[0047]图2为本发明实施例提供的另一种分布式资源调度方法的流程示意图;
[0048]图3为本发明实施例提供的又一种分布式资源调度方法的流程示意图;
[0049]图4为本发明实施例提供的又一种分布式资源调度方法的流程示意图;
[0050]图5为本发明实施例提供的一种分布式资源调度装置的结构示意图;
[0051]图6为本发明实施例提供的另一种分布式资源调度装置的结构示意图;
[0052]图7为本发明实施例提供的一种分布式资源调度设备的结构示意图;
[0053]图8为本发明实施例提供的另一种分布式资源调度设备的结构示意图。
【具体实施方式】
[0054]下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0055]请参阅图1,为本发明实施例提供的一种分布式资源调度方法的流程示意图。该方法包括以下步骤:
[0056]步骤S101,获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率。
[0057]在虚拟化或云计算的服务器集群中包括有多个服务器,每个服务器中又包括多个虚拟机,这多个虚拟机可以运行不同类型的业务,称为业务虚拟机。采用DRS技术对服务器集群的资源进行分配,系统给每个服务器分配一定的资源,每个服务器又给其各虚拟机分配相应的资源,因此该服务器集群又称为分布式集群系统,这里的资源指中央处理器(Central Processing Unit, CPU)、内存和输入 / 输出(Input/Output, I/O)等控制、存储和输入/输出资源。
[0058]在本步骤中,获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率,获取的方式可以为:在每个服务器中设置监控器,监控器监控该服务器内该类型业务虚拟机的资源使用率,并上报给DRS,或者DRS向监控器请求该类型虚拟机的资源使用率,从监控器获取该类型业务虚拟机的资源使用率的次数可以为一次,也可以为多次。这里的资源使用率可以是某一种资源的使用率,也可以是各种资源例如CPU、内存和I/O等的资源使用率的加权值。
[0059]分布式集群系统中各服务器内有一种或多种类型的业务虚拟机,例如,有桌面云虚拟机和编译云虚拟机,本实施例根据业务类型分别获取各服务器内同一类型的虚拟机的资源使用率。
[0060]例如,集群内有三个服务器,服务器I内有桌面云虚拟机2个、编译云虚拟机2个,服务器2内有桌面云虚拟机3个、编译云虚拟机2个,服务器3内有桌面云虚拟机I个、编译云虚拟机2个,DRS给集群内的服务器1、2、3分别分配一定的CPU、内存和I/O资源,各个服务器又给其内部的各类型的虚拟机分配一定的CPU、内存和I/O资源,以CPU资源分配为例,DRS给服务器I分配数量为A的CPU资源,给服务器2分配数量为B的CPU资源,给服务器3分配数量为C的CPU资源,服务器I给其内的2个桌面云虚拟机和2个编译云虚拟机分别分配A1、A2、A3和A4的CPU资源,以桌面云虚拟机的资源使用率为例,服务器I内2个桌面云虚拟机的资源使用率分别为30%和40%,则得到服务器I内桌面云虚拟机的CPU的资源使用率为(30%*A1+40%*A2)/(A1+A2),然后再以同样的方式分别计算服务器I内桌面云虚拟机的总的内存和I/O的资源使用率,再将总的CPU、内存和I/O的资源使用率进行加权计算,得到服务器I的桌面云虚拟机的资源使用率,以此类推获取服务器2和3的桌面云虚拟机的资源使用率。同时,还可以按照同样的方式获取各服务器内编译云虚拟机的资源使用率。
[0061]步骤S102,根据所述各服务器内的同一类型业务虚拟机的资源使用率,通过预定的获取步骤获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,所述获取步骤为:根据所述各服务器内的同一类型业务虚拟机的资源使用率获取所述各服务器内的同一类型业务虚拟机的平均资源使用率,并根据所述各服务器内的同一类型业务虚拟机的资源使用率以及所述平均资源使用率,获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差。
[0062]采用DRS技术保证集群内的资源利用率最大化,因此,计算集群内各个服务器内的同一类型业务虚拟机的资源使用率与各个服务器内的同一类型业务虚拟机的平均资源使用率的标准差,标准差用于反应数据的离散程度,其计算公式如公式(I)所示:
【权利要求】
1.一种分布式资源调度方法,其特征在于,包括: 获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率; 根据所述各服务器内的同一类型业务虚拟机的资源使用率,通过预定的获取步骤获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,所述获取步骤为:根据所述各服务器内的同一类型业务虚拟机的资源使用率获取所述各服务器内的同一类型业务虚拟机的平均资源使用率,并根据所述各服务器内的同一类型业务虚拟机的资源使用率以及所述平均资源使用率,获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差; 当所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差大于或等于所述各服务器内的同一类型业务虚拟机的资源使用率的调度阈值时,将所述分布式集群系统中任一服务器的所述同一类型业务虚拟机平衡调度至分布式集群系统的其他服务器中; 获取平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率; 根据所述平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率,通过所述预定的获取步骤获取所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差; 比较至少一次所述平衡调度后获取的所述第二标准差,执行最小的所述第二标准差对应的所述平衡调度。
2.如权利要求1所述的方法,其特征在于,所述比较至少一次所述平衡调度后获取的所述第二标准差,执行最小的所述第二标准差对应的所述平衡调度之前,还包括: 若进行下一次平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差大于或等于进行当前平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,则停止执行所述获取步骤及下一次的平衡调度。
3.一种分布式资源调度方法,其特征在于,包括: 根据分布式集群系统中各服务器内各类业务虚拟机占所述各服务器的资源的比例和所述各服务器内各类业务虚拟机的资源使用率,获取所述各服务器的资源使用率; 根据所述各服务器的资源使用率,通过预定的获取步骤获取所述分布式集群系统的资源使用率的第三标准差,所述获取步骤为:根据所述各服务器的资源使用率获取所述分布式集群系统的平均资源使用率,并根据所述各服务器的资源使用率以及所述分布式集群系统的平均资源使用率,获取所述分布式集群系统的资源使用率的第三标准差; 当所述分布式集群系统的资源使用率的第三标准差大于或等于所述分布式集群系统的资源使用率的调度阈值时,将所述各服务器内任一业务虚拟机平衡调度至所述分布式集群系统的其他服务器中; 获取平衡调度后分布式集群系统中各服务器的资源使用率; 根据所述平衡调度后分布式集群系统中各服务器的资源使用率,通过所述预定的获取步骤获取所述平衡调度后分布式集群系统的资源使用率的第四标准差; 比较至少一次所述平衡调度后获取的所述第四标准差,执行最小的所述第四标准差对应的所述平衡调度。
4.如权利要求3所述的方法,其特征在于,所述比较至少一次所述平衡调度后获取的所述第四标准差,执行最小的所述第四标准差对应的所述平衡调度之前,还包括: 若进行下一次平衡调度后所述分布式集群系统的资源使用率的第四标准差大于或等于进行当前平衡调度后所述分布式集群系统的资源使用率的第四标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,或将所述业务虚拟机从任一第一服务器平衡调度至任一第二服务器后,所述任一第一服务器或所述任一第二服务器中各类业务虚拟机的总量的变化大于第二设定阈值,和/或所述任一第一服务器或所述任一第二服务器中各类业务虚拟机占所述任一第一服务器的资源的的变化大于第三设定阈值,则停止执行所述获取步骤及下一次的平衡调度。
5.一种分布式资源调度装置,其特征在于,包括: 第一获取单元,用于获取分布式集群系统中各服务器内的同一类型业务虚拟机的资源使用率; 第二获取单元,用于根据所述各服务器内的同一类型业务虚拟机的资源使用率,通过预定的获取方式获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差,所述获取方式为:根据所述各服务器内的同一类型业务虚拟机的资源使用率获取所述各服务器内的同一类型业务虚拟机的平均资源使用率,并根据所述各服务器内的同一类型业务虚拟机的资源使用率以及所述平均资源使用率,获取所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差; 第一调度单元,用于当所述各服务器内的同一类型业务虚拟机的资源使用率的第一标准差大于或等于所述各服务器内的同一类型业务虚拟机的资源使用率的调度阈值时,将所述分布式集群系统中任一服务器的所述同一类型业务虚拟机平衡调度至分布式集群系统的其他服务器中; 第三获取单元,用于获取平衡`调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率; 第四获取单元,用于根据所述平衡调度后分布式集群系统中各服务器内的所述同一类型业务虚拟机的资源使用率,通过所述预定的获取方式获取所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差; 第一比较单元,用于比较至少一次所述平衡调度后获取的所述第二标准差; 第一执行单元,用于执行最小的所述第二标准差对应的所述平衡调度。
6.如权利要求5所述的装置,其特征在于,所述第一执行单元还用于: 若进行下一次平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差大于或等于进行当前平衡调度后所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,则停止执行所述各服务器内的同一类型业务虚拟机的资源使用率的第二标准差的获取及下一次的平衡调度。
7.一种分布式资源调度装置,其特征在于,包括: 第五获取单元,用于根据分布式集群系统中各服务器内各类业务虚拟机占所述各服务器的资源的比例和所述各服务器内各类业务虚拟机的资源使用率,获取所述各服务器的资源使用率;第六获取单元,用于根据所述各服务器的资源使用率,通过预定的获取方式获取所述分布式集群系统的资源使用率的第三标准差,所述获取方式为:根据所述各服务器的资源使用率获取所述分布式集群系统的平均资源使用率,并根据所述各服务器的资源使用率以及所述分布式集群系统的平均资源使用率,获取所述分布式集群系统的资源使用率的第三标准差; 第二调度单元,用于当所述分布式集群系统的资源使用率的第三标准差大于或等于所述分布式集群系统的资源使用率的调度阈值时,将所述各服务器内任一业务虚拟机平衡调度至所述分布式集群系统的其他服务器中; 第七获取单元,用于获取平衡调度后分布式集群系统中各服务器的资源使用率;第八获取单元,用于根据所述平衡调度后分布式集群系统中各服务器的资源使用率,通过所述预定的获取方式获取所述平衡调度后分布式集群系统的资源使用率的第四标准差; 第二比较单元,用于比较至少一次所述平衡调度后获取的所述第四标准差; 第二执行单元,用于执行最小的所述第四标准差对应的所述平衡调度。
8.如权利要求7所述的装置,其特征在于,所述第二执行单元还用于: 若进行下一次平衡调度后所述分布式集群系统的资源使用率的第四标准差大于或等于进行当前平衡调度后所述分布式集群系统的资源使用率的第四标准差,或截止下一次平衡调度,进行所述平衡调度的累计次数超过第一设定阈值,或将所述业务虚拟机从任一第一服务器平衡调度至任一第二服务器后,所述任一第一服务器或所述任一第二服务器中各类业务虚拟机的总量的变化大于 第二设定阈值,和/或所述任一第一服务器或所述任一第二服务器中各类业务虚拟机占所述任一第一服务器的资源的的变化大于第三设定阈值,则停止执行所述平衡调度后分布式集群系统的资源使用率的获取及下一次的平衡调度。
【文档编号】H04L29/08GK103763346SQ201310751965
【公开日】2014年4月30日 申请日期:2013年12月31日 优先权日:2013年12月31日
【发明者】闫立俊 申请人:华为技术有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1