一种分布式存储系统及其存储质量控制方法及装置的制造方法
【技术领域】
[0001] 本发明涉及网络数据存储技术领域，特别是一种分布式存储系统及其存储质量控 制方法及装置。
【背景技术】
[0002] 目前，网络数据存储通常采用分布式文件存储集群来实现。
[0003] 例如：视频网站在各个视频生产环节进行时，会产生一些中间文件，这些文件一般 都需要存储在分布式文件存储集群（下文简称为存储集群）中。由于各个环节都需要使 用存储服务，因此存储服务的质量会直接或间接导致整个视频生产流水线的整体质量，一 旦存储服务出现质量降级甚至不可用等情况，会直接或间接导致整个视频生产流水线的瘫 痪。
[0004] 目前，常见的分布式存储系统都包括多个集群，每个集群包括多个集群节点服务 器。通过虚拟化技术将集群内所有节点服务器的多台物理机的磁盘虚拟成一个巨大的存储 池，从存储池中可以分配出多个存储单元。提供给一个业务使用的，通常是一个或多个存储 单元，例如：为视频签名业务分配3个存储单元，为视频编码业务分配6个存储单元，为视频 转码业务分配6个存储单元等等。
[0005] 也就是说，视频生产过程中的各个业务环节是否通畅，取决于使用的存储单元是 否健康也就是存储质量是否满足业务需求，如果使用的存储单元足够健康，那么就会为视 频生产提供足够稳定且高质量的存储服务，从而可以保证视频生产保持高效且良性运转。
[0006] 然而，单一的存储单元的健康往往难以保证，因为会受到诸如机房网络问题、机器 网卡降级、机器磁盘容量及RAID卡质量、存储文件系统本身软件问题等多种因素的影响， 因此某个业务只使用一个存储单元往往是不可靠的。目前常见的做法是为某个业务分配多 个存储单元提供服务，通过为每个存储单元分配合理的使用权重，在使用存储时根据权重 选择存储单元，从而可以避免单一存储单元的风险。
[0007] 此时面临的一个重要问题是，该如何决定使用哪个存储单元？
[0008] 目前较常见的做法是，加强对存储单元的进行监控，获得监控数据。一旦监控数据 发生异常时，存储单元就会产生相关的报警，那么就将产生报警的存储单元下线停用，启用 为该业务分配的备用存储单元，继续提供服务。这种通过监控触发人为干预的做法的弊端 显而易见，如果运维人员未能及时进行存储单元的切换，或者在手工切换时出现的纰漏，那 么轻则会导致视频生产的堵塞，重则导致整个服务不可用的情况。
【发明内容】
[0009] 本发明实施例的目的在于提供一种分布式存储系统及其存储质量控制方法及装 置，能够实现自动切换存储单元，并保证存储服务质量。
[0010] 为达到上述目的，第一方面，本发明公开了一种分布式存储系统，包括多个分布式 存储集群；每个分布式存储集群包括多个存储节点服务器；每个存储节点服务器包括多个 存储单元；还包括：至少一个指标监控服务器和至少一个存储质量控制服务器；
[0011] 所述的每个指标监控服务器，与多个集群中的多个存储节点服务器相连，用于针 对每个业务，对该每个业务使用的各个存储单元及其所在的各个存储节点服务器进行指标 监控，获得每个业务的指标值；
[0012] 所述每个业务的指标值，包括：用于标识该业务使用的各个存储单元当前工作状 态的存储单元指标值，和用于标识该业务使用的各个存储单元所在的各个存储节点服务器 当前工作状态的存储节点指标值；
[0013] 将获得的每个业务的指标值，按预设的时间周期发送给存储质量控制服务器；
[0014] 所述的存储质量控制服务器，与多个集群中的多个存储节点服务器相连，用于接 收所述指标监控服务器按预设的时间周期发送的每个业务的指标值；
[0015] 根据接收的每个业务的指标值中，每个业务的各个存储节点指标值和各个存储单 元指标值，分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存 储单元的降级因素参数；
[0016] 根据每个业务的各个集群降级因素参数和各个存储单元降级因素参数，按照预设 的评分算法，对该业务使用的所述各个存储单元进行存储质量评分；
[0017] 根据每个业务使用的各个存储单元当前周期的存储质量评分值，确定每个业务的 待调整权重的存储单元，和/或待切换新增数据的存储单元；并生成针对待调整权重的存 储单元，和/或待切换新增数据的存储单元的切换建议；根据所述切换建议，控制待调整权 重的存储单元调整接收该业务新增数据的权重和/或将该业务的新增数据切换至为该业 务配置的备用存储单元。
[0018] 其中，当系统中设置有多个存储质量控制服务器时，各个存储质量控制服务器之 间可以相互连接。
[0019] 第二方面，本发明公开了一种分布式存储系统的存储质量控制方法，应用于第一 方面所述系统中的存储质量控制服务器，包括：
[0020] 接收指标监控服务器按预设的时间周期发送的每个业务的指标值；所述每个业务 的指标值，包括：用于标识该业务使用的各个存储单元当前工作状态的存储单元指标值，和 用于标识该业务使用的各个存储单元所在的各个存储节点服务器当前工作状态的存储节 点指标值；
[0021] 根据接收的每个业务的指标值中，每个业务的各个存储节点指标值和各个存储单 元指标值，分别确定每个业务的各个存储节点服务器所在的集群的降级因素参数和各个存 储单元的降级因素参数；
[0022] 根据每个业务的各个集群降级因素参数和各个存储单元降级因素参数，按照预设 的评分算法，对该业务使用的所述各个存储单元进行存储质量评分；
[0023] 根据每个业务使用的各个存储单元当前周期的存储质量评分值，确定每个业务的 待调整权重的存储单元，和/或待切换新增数据的存储单元；并生成针对待调整权重的存 储单元，和/或待切换新增数据的存储单元的切换建议；根据所述切换建议，控制待调整权 重的存储单元调整接收该业务新增数据的权重和/或将该业务的新增数据切换至为该业 务配置的备用存储单元。
[0024] 本发明公开的存储质量控制方法中，所述降级因素参数的格式可以为〈类型，参 数调整值〉；其中，类型为存储集群类型或存储单元类型；
[0025] 具体地，所述根据接收的每个业务的指标值中，每个业务的各个存储节点指标值 和各个存储单元指标值，分别确定每个业务的各个存储节点服务器所在的集群的降级因素 参数和各个存储单元的降级因素参数，可以包括：
[0026] 查找预设的降级因素参数列表，所述降级因素参数列表中包含存储集群指标调整 条件及对应的参数调整值，和存储单元指标调整条件及对应的参数调整值；
[0027] 判断接收的每个业务的存储节点指标值，是否满足降级因素参数列表中的任一存 储集群指标调整条件；若是，则该存储节点服务器所在的集群的降级因素参数的类型为： 存储集群类型，参数调整值为：该存储集群指标调整条件对应的参数调整值；若否，则该存 储节点服务器所在的集群的降级因素参数的类型为：存储集群类型，参数调整值为：null;
[0028] 判断接收的每个业务的存储单元指标值，是否满足降级因素参数列表中的任一存 储单元指标调整条件；若是，则该存储单元的降级因素参数的：类型为：存储单元类型，参 数调整值为：该存储单元指标调整条件对应的参数调整值；若否，则该存储单元的降级因 素参数类型为：存储单元类型，参数调整值为：null。
[0029] 本发明公开的存储质量控制方法中，可以预先设置一个存储质量最高分；
[0030] 具体地，所述根据每个业务的各个集群降级因素参数和各个存储单元降级因素参 数，按照预设的评分算法，对该业务使用的所述各个存储单元进行存储质量评分，包括：
[0031] 先判断该业务的集群降级因素参数中，是否有参数调整值为非null的集群降级 因素参数；如果有，则该业务使用的属于该集群的每个存储单元的存储质量评分值为：存 储质量最高分与集群降级因素参数中的参数调整值的差值；
[0032] 再判断该业务使用的各个存储单元未被评分的降级因素参数中，是否有参数调整 值为非null的存储单元降级因素参数；如果有，则该存储单元的存储质量评分值为：存储 质量最高分与该存储单元降级因素参数中的参数调整值的差值；参数调整值为null的存 储单元的存储质量评分值为所述存储质量最高分。
[0033] 本发明公开的存储质量控制方法中，具体地，所述根据每个业务使用的各个存储 单元当前周期的存储质量评分值，确定每个业务的待调整权重的存储单元，和/或待切换 新增数据的存储单元，可以包括：将该业务使用的存储质量评分值不为〇和不为所述存储 质量最高分的存储单元，确定为待调整权重的存储单元；将该业务使用的存储质量评分值 为〇的存储单元确定为待切换新增数据的存储单元；
[0034] 所述生成针对待调整权重的存储单元，和/或待切换新增数据的存储单元的切换 建议，可以包括：计算各个待调整权重的存储单元当前周期的存储质量评分值与上一周期 的存储质量评分值的差值；按照预设的评分值差值与调整权重的对应关系，确定待调整权 重的存储单元的目标权重；将待切换新增数据的存储单元的目标权重设置为〇,所述切换 建议可以包括：所述待调整权重的存储单元及其目标权重，和/或待切换新增数据的存储 单元及其目标存储单元；所述目标存储单元是为该业务配置的备用存储单元；
[0035] 根据所述切换建议，控制待调整权重的存储单元调整接收该业务新增数据的权重 和/或将该业务的新增数据切换至为该业务配置的备用存储单元，可以包括：将待调整权 重的存储单元的目标权重发送给待调整权重的存储单元，使得该存储单元，将权重调整至 目标权重，和/或向待切换新增数据的存储单元及其目标存储单元发送切换指令，使得待 切换新增数据的存储单元停止接收新增数据，目标存储单元开始接收新增数据。
[0036] 本发明公开的存储质量控制方法中，所述存储质量最高分可以设置为100 ;
[0037] 按照预设的评分值差值与调整权重的对应关系，确定待调整权重的存储单元的目 标权重，可以按如下公式计算获得的目标权重：
[0038] 目标权重=当前权重-评分值差值/100X当前权重。
[0039] 本发明公开的存储质量控制方法中，所述目标存储单元可以按如下方式确定：
[0040] 在为该业务配置的多个备用存储单元中，选择存储评分值最高的备用存储单元作 为目标存储单元；
[0041] 若为该业务配置的多个