1.一种数据分发方法,所述方法包括:
运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;
检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;
从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;
将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;
按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将各语言版本的机器学习模型分别对应的数据分配权重发送至消息中间件进行缓存;
所述按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包包括:
发送切片得到的所述数据包至所述消息中间件,以指示所述消息中间件,按照缓存的各语言版本的机器学习模型所对应的所述数据分配权重,将各所述数据包以消息的形式,向配置各语言版本的机器学习模型的机器进行分发。
3.根据权利要求1所述的方法,其特征在于,所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息包括:
针对每个语言版本的机器学习模型,监控所述机器学习模型是否接收到请求;
当监控到所述机器学习模型接收到请求、且处于请求响应阶段时,检测与预设的响应性能指标对应的数据,得到响应性能信息。
4.根据权利要求3所述的方法,其特征在于,所述响应性能信息为多项;所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息还包括:
将各项响应性能信息分别与预设的响应达标条件进行匹配;
当匹配成功时,则判定所述响应性能信息达标;
根据响应性能信息的达标项数,判断所述机器学习模型是否稳定;
根据判断结果,得到所述机器学习模型的稳定性信息。
5.根据权利要求1所述的方法,其特征在于,所述响应性能信息和稳定性信息皆为多项;所述从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重包括:
针对每个语言版本的机器学习模型,将表征所述机器学习模型的数据处理性能的响应性能信息和稳定性信息,分别与预设的响应达标条件和稳定条件进行匹配;
确定与响应达标条件匹配成功的响应性能信息的达标项数、以及与稳定条件匹配成功的稳定性信息的稳定项数;
根据所述达标项数和稳定项数,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
从数据库中的数据分发记录表中,查找每个语言版本的机器学习模型被分发至的数据包的历史总数量;所述历史总数量,用于表征所述机器学习模型的历史数据处理性能;
所述根据所述达标项数和稳定项数,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重包括:
根据所述达标项数、所述稳定项数和表征所述历史数据处理性能的历史总数量,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重。
7.根据权利要求6所述的方法,其特征在于,所述预设的权重表包括响应性能权重表、稳定性权重表和历史分发权重表;
所述根据所述达标项数、所述稳定项数和表征所述历史数据处理性能的历史总数量,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重包括:
在预先设置的响应性能权重表中,查询与所述达标项数对应的第一权重;
在预先设置的稳定性权重表中,查询与所述稳定项数对应的第二权重;
从历史分发权重表中,查找与所述历史总数量对应的第三权重;
根据第一权重、第二权重和第三权重,确定所述机器学习模型对应的数据分配权重。
8.根据权利要求1所述的方法,其特征在于,所述运行至少两个语言版本的机器学习模型包括:
获取至少两个语言版本的机器学习模型的配置信息;
按照预设的模型导入比例,将各所述配置信息分别导入至机器集群中的机器中;所述模型导入比例,为集群中导入不同语言版本的机器学习模型的机器数量之比;
在各机器中根据所导入的配置信息运行相应的机器学习模型。
9.一种数据分发装置,其特征在于,所述装置包括:
模型运行模块,用于运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;
检测模块,用于检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;
权重确定模块,用于从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;
数据分发模块,用于将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。
10.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述方法的步骤。