基于逻辑回归的特征系数训练方法和装置与流程

文档序号:11199166阅读:684来源:国知局
基于逻辑回归的特征系数训练方法和装置与流程

本发明涉及计算机领域,尤其涉及一种基于逻辑回归的特征系数训练方法和装置。



背景技术:

随着时代的发展,网上购物已经变成人们日常生活中非常重要的一部分。用户在网购过程中,会在电商网站留下各种结构化和非结构化的行为数据,比如订单行为、浏览行为、关注行为和点击行为等行为数据,这些行为数据都可以作为训练模型的业务特征,以构建机器学习的算法,从而预测用户的个性化商品偏好。“千人千面”的精准个性化推荐,一直是各大电商的个性化推荐系统追求的目标,想要获得好的个性化推荐效果在计算用户的个性化偏好得分时,需要给每个业务特征分配合理的特征系数。所以,一种准确有效的特征系数自动化更新算法,对于商品的个性化推荐,提升用户体验,智能化平台服务,都具有重大意义。

现有技术中给训练模型的每个业务特征确定特征系数主要有两种方式:一是abtest(a/b测试)调整系数法,该方法是数据分析师根据业务经验利用abtest来调整特征系数;二是随机抽样借助统计软件计算系数法,该方法通过随机抽取少量数据样本,然后借助统计软件spss(statisticalproductandservicesolutions,统计产品与服务解决方案)或r来计算业务特征的特征系数。

在实现本发明过程中,发明人发现现有技术中至少存在如下问题:

(1)abtest调整系数法对数据分析师的业务经验依赖较大,当需要接手一个新业务的时候,该方法有可能会测试很多组数据,才能给出比较合理的特征系数,浪费资源。

(2)随机抽样借助统计软件计算系数法是在大数据集上随机抽样,因为能进入统计软件spss或r离线做逻辑回归的数据条数是有限制的,这种方法是用样本估计全体,会带有随机误差。其次,该方法数据分析师每做一次逻辑回归就固定了特征系数,特征系数的动态更新不及时,导致个性化推荐服务不能够及时精准。



技术实现要素:

有鉴于此,本发明实施例提供一种基于逻辑回归的特征系数训练方法和装置,结合逻辑回归模型和迭代优化算法,更适合电商推荐的大数据背景,能够准确快速的为每个业务特征计算出特征系数。

为实现上述目的,根据本发明实施例的一个方面,提供了一种基于逻辑回归的特征系数训练方法。

本发明实施例的一种基于逻辑回归的特征系数训练方法,包括:获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理;确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型;通过迭代优化算法确定所述逻辑回归模型的特征系数。

可选地,所述迭代优化算法是l-bfgs算法或者随机梯度法。

可选地,对所述业务特征数据进行归一化处理包括:剔除所述业务特征数据的误点数据,对剔除误点数据后的业务特征数据进行归一化处理。

可选地,将所述标签数据和所述归一化处理后的业务特征数据按照预设格式输入到所述逻辑回归模型,所述格式包括:标签和至少一组业务特征id以及业务特征id对应的特征值,所述特征值为归一化处理后的业务特征数据。

可选地,所述方法还包括:对所述逻辑回归模型进行正则化约束。

可选地,所述方法还包括:设定所述逻辑回归模型的评估指标,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最终特征系数。

可选地,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最优特征系数包括:将所述标签数据和所述归一化处理后的业务特征数据进行分组得到多组验证子集数据,将每组验证子集数据分别输入到所述逻辑回归模型得到多组特征系数以及预测得分概率,根据预测得分概率和标签数据计算每组验证子集数据的评估指标,求取所有分组评估指标的平均值以获得所述逻辑回归模型的评估性能,根据评估性能选出最终特征系数;所述评估指标包括准确率、查全率、查准率、f值和auc。

可选地,所述获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理步骤之后还包括:对所述标签数据和所述归一化处理后的业务特征数据通过欠采样、过采样或者阈值移动的方式去除噪音数据。

可选地,所述方法还包括:将通过迭代优化算法确定特征系数后的逻辑回归模型订阅成离线任务以自动化更新特征系数。

为实现上述目的,根据本发明实施例的另一方面,提供了一种基于逻辑回归的特征系数训练装置。

本发明实施例的一种基于逻辑回归的特征系数训练装置,包括:数据预处理模块,用于获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理;逻辑回归模型模块,用于确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型;特征系数确定模块,用于通过迭代优化算法确定所述逻辑回归模型的特征系数。

所述迭代优化算法是l-bfgs算法或者随机梯度法。

可选地,所述数据预处理模块还用于:剔除所述业务特征数据的误点数据,对剔除误点数据后的业务特征数据进行归一化处理。

可选地,所述逻辑回归模型模块还用于:将所述标签数据和所述归一化处理后的业务特征数据按照预设格式输入到所述逻辑回归模型,所述格式包括:标签和至少一组业务特征id以及业务特征id对应的特征值,所述特征值为归一化处理后的业务特征数据。

可选地,所述装置还包括:正则化约束模块,用于对所述逻辑回归模型进行正则化约束。

可选地,所述装置还包括:特征系数选择模块,用于设定所述逻辑回归模型的评估指标,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最终特征系数。

可选地,所述特征系数选择模块还用于:将所述标签数据和所述归一化处理后的业务特征数据进行分组得到多组验证子集数据,将每组验证子集数据分别输入到所述逻辑回归模型得到多组特征系数以及预测得分概率,根据预测得分概率和标签数据计算每组验证子集数据的评估指标,求取所有分组评估指标的平均值以获得所述逻辑回归模型的评估性能,根据评估性能选出最终特征系数;所述评估指标包括准确率、查全率、查准率、f值和auc。

可选地,所述装置还包括:噪音数据去除模块,用于对所述标签数据和所述归一化处理后的业务特征数据通过欠采样、过采样或者阈值移动的方式去除噪音数据。

可选地,所述装置还包括:自动化系数更新模块,用于将通过迭代优化算法确定特征系数后的逻辑回归模型订阅成离线任务以自动化更新特征系数。

为实现上述目的,根据本发明实施例的再一方面,提供了一种电子设备。

本发明实施例的一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例的一种基于逻辑回归的特征系数训练方法。

为实现上述目的,根据本发明实施例的再一方面,提供了一种计算机可读介质。

本发明实施例的一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例的一种基于逻辑回归的特征系数训练方法。

根据本发明的技术方案,上述发明中的一个实施例具有如下优点或有益效果:本发明在大数据集上结合逻辑回归模型和迭代优化算法,能够利用更多的有效数据,准确快速的为每个业务特征计算出特征系数;通过在spark平台中调用l-bfgs算法使得程序运行在大数据集上,符合当今时代大数据机器学习的趋势,优化迭代算法更加健壮可靠,特征系数的优化迭代收敛速度更快;通过将逻辑回归模型订阅成离线任务实现了特征系数的自动化更新,既解放了数据分析师的一部分工作,节约资源,又能够及时准确地发现用户的个性化偏好,根据用户的最新购物行为自动更新对应的特征系数,提升了用户体验,对电商平台构建更智能的个性化推荐系统具有重大意义。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明,不构成对本发明的不当限定。其中:

图1是根据本发明实施例的特征系数训练方法的主要步骤的示意图;

图2是根据本发明实施例的特征系数训练方法的执行流程示意图;

图3是本发明实施例的特征系数训练方法输入到逻辑回归模型的数据示意图;

图4是本发明实施例的特征系数训练方法的特征系数训练结果示意图;

图5是根据本发明实施例的特征系数训练装置的构成示意图;

图6是适用于来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

本发明实施例中,改进了之前的特征系数训练方法,实现了一种基于逻辑回归和迭代优化算法的特征系数训练的解决方案。本发明的实施例中需要预测用户对三级品类的偏好得分,实现思路是:从hive表(hive是基于hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表)中获取订单记录、关注记录、浏览记录、点击记录的标签数据和业务特征数据,将全部的标签数据和业务特征数据分成三个部分,比如分成8:1:1,其中8份的数据用来做训练集,1份的数据用来做验证集,1份的数据用来做测试集,首先是用训练集的数据训练出逻辑回归模型,训练过程中通过在spark平台(spark平台是一种集群计算环境)的mllib库(machinelearninglibrary,机器学习算法库)中调用迭代优化算法,获得局部优化参数;然后将验证集的数据输入到训练好的逻辑回归模型,根据评估指标选出最优特征系数;最后将测试集的数据输入到训练集数据上训练出来的逻辑回归模型,得到用户对三级品类的概率偏好得分值。其中,测试集中只需要输入业务特征数据,测试集中的标签数据是预测出来的。验证集中既有预测出来的标签数据,也有真正的标签数据。

图1是本发明实施例的特征系数训练方法的主要步骤的示意图。

如图1所示,本发明实施例的特征系数训练方法主要包括如下步骤:

步骤s11:获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理。标签数据和业务特征数据从hive表中获取,为了使特征数据在同一量纲下,需要对获取的业务特征数据进行归一化处理。对数据进行归一化处理时可先剔除hive表中的误点数据,比如订单大于1亿的用户。其中,标签是逻辑回归模型训练的目标,标签构造方式针对不同的业务是不一样的,比如在进行用户对三级品类的偏好预测中,标签可以打为1和0,标签是1表示用户对这个三级品类偏好,标签是0表示用户对这个三级品类不偏好,也可以是其它构造标签的方式。

在步骤s11完成数据预处理后,从步骤s12开始进行逻辑回归模型的设计及特征系数的确定。

步骤s12:确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型。逻辑回归是一种广义线性回归,是在线性回归的基础上加入了sigmoid函数进行非线性映射,这个函数可以将连续值映射到0和1上。逻辑回归的因变量可以是二分类的也可以是多分类的,实际中常用的就是二分类的逻辑回归。确定逻辑回归模型即将机器学习的分类模型确定为逻辑回归模型。标签数据和所述归一化处理后的业务特征数据需按照迭代优化算法支持的数据格式输入到逻辑回归模型中。

步骤s13:通过迭代优化算法确定所述逻辑回归模型的特征系数。迭代优化算法可以是l-bfgs算法也可以是sgd算法(随机梯度法)。l-bfgs算法是一种求解无约束非线性优化问题常用的方法,该算法有较完善的局部收敛理论,以其发明者broyden,fletcher,goldfarb和shanno的首字母命名,l是limit的缩写,是bfgs算法在受限内存时的一种近似算法,在大数据集上有优势。l-bfgs算法也比随机梯度法收敛速度快,而且节省资源,在特征系数训练过程中优先选用l-bfgs算法,在数据量少时也可以采用随机梯度法。

图2是本发明实施例的特征系数训练方法的执行流程示意图。

如图2所示,本发明实施例中,特征系数训练方法的具体执行流程是:

从hive表中获取订单记录、关注记录、浏览记录、点击记录的标签数据和业务特征数据,剔除订单记录、关注记录、浏览记录、点击记录中的误点数据,对剔除误点数据后的业务特征数据做归一化处理。该步骤需要准备好用户的标签数据、用户过去一年的订单的业务特征数据、用户过去三个月的关注的业务特征数据、用户过去一个月的浏览的业务特征数据、用户过去一个星期的点击的业务特征数据,为了让特征数据在同一个量纲下,需要对特征数据做归一化处理。

确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型。逻辑回归的损失函数采用对数似然损失函数,外层的压缩函数采用sigmoid函数,sigmoid函数可以将线性回归的输出范围从负无穷到正无穷压缩到0和1之间,把大范围数值压缩到这个范围内,可以消除特别冒尖的变量的影响,即消除数据的异常值,比如特别大的点和特别小的点。

通过迭代优化算法确定所述逻辑回归模型的特征系数。l-bfgs算法适用于分布式大数据的计算,其只存储计算过程中的向量序列sj,yj,根据sj和yj计算出海森矩阵的逆的近似,同时只存储最近的m个sj,yj,其中向量序列sj对应于本发明的业务特征数据,yj对应于本发明的标签数据,j的含义是第j个样本,因此l-bfgs算法节省资源,又因其收敛速度比随机梯度法快,在特征系数训练方法中优先选用l-bfgs拟牛顿法。该步骤的实现过程为:在spark平台的mllib库中调用l-bfgs算法,经过多次学习迭代得到逻辑回归模型的各参数。这里得到的参数中包括特征系数,但是该特征系数是确定一次逻辑回归模型的局部最优特征系数。整体最优特征系数需要配合后面的评估指标和交叉验证获得。

其中,归一化处理方法如下:

式中,score是指业务特征数据归一化后的分数,取值范围为0到1;i为正整数,表示获取数据的维度;xi表示当i取值不同时,分别指业务订单的业务特征数据、业务关注的业务特征数据、业务浏览的业务特征数据和点击记录的业务特征数据。

另外,如果获取的业务特征数据和标签数据样本不平衡,即获取的标签为1的样本较少,标签为0的样本较多,如果直接让这样的业务特征数据进入逻辑回归模型进行训练,特征系数训练装置会把更多的新数据预测为标签0,但我们又希望预测出较多的1,以给用户做丰富的个性化推荐。针对该样本不平衡问题,可以通过欠采样、过采样以及阈值移动的方式来解决,欠采样、过采样以及阈值移动的方式均为现有技术中的方式。本发明以欠采样方式为例,进行详细说明:去除训练集里的一些标签为0的数据,使得标签为0和标签为1的数据数目接近,本发明采用分层随机抽样法来控制标签为0和标签为1数据的比例,即利用集成学习机制将标签为0的数据划分为若干个不同的集合,供不同的学习器学习,这样对每个学习器来看都采用了欠采样,但在全局来看不会丢失重要信息。比如:可以把数据分成两部分:分别是标签为0的多数样本和标签为1的少数样本,对于多数标签为0的样本通过n次有放回,生成n份子集,将少数标签为1的样本分别和这n份样本合并训练一个新模型,这样可以得到n个逻辑回归模型,最终的模型是这n个逻辑回归模型预测结果的平均值,这个思想类似决策树生成随机森林。

其中,输入到所述逻辑回归模型的标签数据和归一化处理后的业务特征数据需要按照预定格式输入,所述格式包括:标签和至少一组业务特征id以及业务特征id对应的特征值,所述特征值为归一化处理后的业务特征数据。本发明的实施例提供所述格式的一种表达方式:

标签业务特征id:特征值业务特征id:特征值……

该格式中,业务特征id:特征值的个数不限定,等同于获取的数据维度个数,本发明实施例中为4个;特征值等同于归一化后的业务特征数据。该格式是本发明中算法工具支持的格式,可扩展到其他格式。

图3是本发明实施例的特征系数训练方法输入到逻辑回归模型的数据示意图。

如图3所示,本发明的实施例从hive表中获取了4个维度数据。第一列为标签,因为实施例是预测用户偏好还是不偏好,是二分类问题,所以标签只有两种情况0和1;每一行的业务特征id均为1、2、3、4,分别代表订单维度、关注维度、浏览维度和点击维度;特征值为归一化后的业务特征数据score。

另外,sigmoid函数的表达式为:

式中,x表示特征值向量,这里是订单特征、浏览特征、关注特征、点击特征这四个维度的特征值;θ是各个业务特征的参数向量,这里分别对应订单特征、浏览特征、关注特征、点击特征的特征系数;θtx表示两个向量相乘,t代表转置;g()表示非线性的映射函数。

另外,对数似然损失函数的表达式为:

式中,y表示标签,y为1表示标签打的是1,y为0表示标签打的是0。

其中,通过l-bfgs算法确定特征系数的过程为:step1:预先设定第一次迭代时特征系数的初始值(numcorrection=10)、停止迭代的阈值(convergencetol=1e-4)、迭代次数(maxnumiterations=20)、初始搜索方向(负梯度方向)和初始步长因子(regparam=0.1);step2:将参数值代入目标函数中得到下一次迭代时的特征系数,计算出迭代过程中的搜索方向和迭代的步长因子;step3:判断两次迭代的特征系数差值是否满足优化收敛条件(即是否小于停止迭代的阈值),如果不满足优化收敛条件就继续迭代,直到两次计算的特征系数差值满足收敛条件。若达到迭代次数还未满足优化收敛条件,停止迭代。其中,损失函数取最小值即为目标函数。

另外,本发明实施例的方法还包括对所述逻辑回归模型进行正则化约束的步骤。为了防止逻辑回归模型的过拟合,增加逻辑回归模型的健壮性和模型泛化能力,本发明的实施例在目标函数中加入了l2正则化因子来衡量逻辑回归模型对样本预测与真实标签之间的误差。最优化目标函数=最小化训练误差+最小化测试误差,由于逻辑回归模型需要对训练集中的业务特征数据和标签数据进行拟合,且要尽量拟合训练数据,但是我们不仅要保证训练误差最小,还希望逻辑回归模型的测试误差小,为约束逻辑回归模型尽量简单,使得测试误差小,所以就需要加入正则化的思想。正则化约束算法包括l1正则化算法和l2正则化算法,l1正则化算法服从拉普拉斯分布,l2正则化算法服从高斯分布,用户可根据实际需要选择其中一种进行正则化约束。

另外,本发明实施例的方法还包括设定所述逻辑回归模型的评估指标,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最终特征系数。本发明用到的评估指标是:准确率、查全率、查准率、f值和auc(areaunderroccurve,是度量模型好坏的一个标准)。auc越大,逻辑回归模型的训练效果越好,商品排序一般选用auc指标;分类问题一般选用f值,根据不同的业务考核指标,也可以选用准确率、查全率、查准率。在逻辑回归的二分类问题中,预测值和真实值会出现四种情况:在训练集中,如果一个样本标签是1也被预测成1,记成tp(truepositive);如果样本标签是1被预测为0,记成fp(falsepositive),如果一个样本标签是0也被预测成0,记成tn(truenegative);如果样本标签是0被预测为1,记成fn(falsenegative),那么上述几个评估指标分别是:

其中,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最优特征系数包括:将标签数据和归一化处理后的业务特征数据关联在一张表中,关联后的表中既有标签数据又有业务特征数据,将数据分成k组,选用不同的子集数据做训练集和验证集,将每各子集数据分别作为一个验证集,这样就会得到k个l-gfbs算法优化后的逻辑回归模型,用这k个l-gfbs算法优化后的逻辑回归模型最终的验证集的评估指标的平均值作为逻辑回归模型的性能评估指标。例如分组数k为10,评估指标为上述5个,则得到10个验证子集数据,每个验证子集数据都充当一次验证集,就会做10次交叉验证得到10组特征系数,最终根据评估性能的平均值选择出10组特征系数中最好的一组作为逻辑回归模型的最终特征系数;平均值即每个评估指标的10次平均值,最后仍旧得到5个评估指标,这5个评估指标更具有代表性。

图4是本发明实施例的特征系数训练方法的特征系数训练结果示意图。

如图4所示,在用户三级品类偏好得分预测中,本发明实施例中用到的四个业务特征(浏览特征、关注特征、订单特征和点击特征)的特征系数训练结果如图,图中四个数字即对应为四个业务特征分配的特征系数。

另外,本发明实施例的方法还包括:将通过迭代优化算法确定特征系数后的逻辑回归模型订阅成离线任务以自动化更新特征系数。把写好的spark程序逻辑放在大数据平台上,根据业务需求可每天定时启动任务,每天执行一次任务,这样特征系数天天都是新的,实现了逻辑回归模型特征系数的自动化训练,具有灵活性和可操作性。

通过本发明实施例的特征系数训练方法可以看出,本发明在大数据集上结合逻辑回归模型和迭代优化算法,能够利用更多的有效数据,准确快速的为每个业务特征计算出特征系数;通过在spark平台中调用l-bfgs算法使得程序运行在大数据集上,符合当今时代大数据机器学习的趋势,优化迭代算法更加健壮可靠,特征系数的优化迭代收敛速度更快;通过将逻辑回归模型订阅成离线任务实现了特征系数的自动化更新,既解放了数据分析师的一部分工作,节约资源,又能够及时准确地发现用户的个性化偏好,根据用户的最新购物行为自动更新对应的特征系数,提升了用户体验,对电商平台构建更智能的个性化推荐系统具有重大意义。

图5是本发明实施例的特征系数训练训练装置的构成示意图。

如图5所示,本发明实施例的训练装置50主要包括:

数据预处理模块501,用于获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理。标签数据和业务特征数据从hive表中获取,为了使特征数据在同一量纲下,需要对获取的业务特征数据进行归一化处理。对数据进行归一化处理时可先剔除hive表中的误点数据,比如订单大于1亿的用户。其中,标签是逻辑回归模型训练的目标,标签构造方式针对不同的业务是不一样的。比如在进行用户对三级品类的偏好预测中,标签可以打为1和0,标签是1表示用户对这个三级品类偏好,标签是0表示用户对这个三级品类不偏好,也可以是其它构造标签的方式。

逻辑回归模型模块502,用于确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型。逻辑回归是一种广义线性回归,是在线性回归的基础上加入了sigmoid函数进行非线性映射,这个函数可以将连续值映射到0和1上。逻辑回归的因变量可以是二分类的也可以是多分类的,实际中常用的就是二分类的逻辑回归。确定逻辑回归模型即将机器学习的分类模型确定为逻辑回归模型。标签数据和所述归一化处理后的业务特征数据需按照迭代优化算法支持的数据格式输入到逻辑回归模型中。

特征系数确定模块503,用于通过迭代优化算法确定所述逻辑回归模型的特征系数。迭代优化算法可以是l-bfgs算法也可以是sgd算法(随机梯度法)。l-bfgs算法是一种求解无约束非线性优化问题常用的方法,该算法有较完善的局部收敛理论,以其发明者broyden,fletcher,goldfarb和shanno的首字母命名,l是limit的缩写,是bfgs算法在受限内存时的一种近似算法,在大数据集上有优势。l-bfgs算法也比随机梯度法收敛速度快,而且节省资源,在特征系数训练过程中优先选用l-bfgs算法,在数据量少时也可以采用随机梯度法。

另外,本发明实施例的特征系数训练装置还可以包括正则化约束模块、特征系数选择模块、噪音数据去除模块和自动化系数更新模块。正则化约束模块用于对所述逻辑回归模型进行正则化约束,可选用l1正则化算法或者l2正则化算法。特征系数选择模块,用于设定所述逻辑回归模型的评估指标,通过交叉验证的方式选出一组特征系数作为所述逻辑回归模型的最终特征系数。噪音数据去除模块,用于对所述标签数据和所述归一化处理后的业务特征数据通过欠采样、过采样或者阈值移动的方式去除噪音数据,使特征系数的训练结果更加准确。自动化系数更新模块,用于将通过迭代优化算法确定特征系数后的逻辑回归模型订阅成离线任务以自动化更新特征系数。

从以上描述可以看出,本发明在大数据集上结合逻辑回归模型和迭代优化算法,能够利用更多的有效数据,准确快速的为每个业务特征计算出特征系数;通过在spark平台中调用l-bfgs算法使得程序运行在大数据集上,符合当今时代大数据机器学习的趋势,优化迭代算法更加健壮可靠,特征系数的优化迭代收敛速度更快;通过将逻辑回归模型订阅成离线任务实现了特征系数的自动化更新,既解放了数据分析师的一部分工作,节约资源,又能够及时准确地发现用户的个性化偏好,根据用户的最新购物行为自动更新对应的特征系数,提升了用户体验,对电商平台构建更智能的个性化推荐系统具有重大意义。

根据本发明的实施例,本发明还提供了一种电子设备和一种计算机可读介质。

本发明的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例的一种特征系数训练方法。

本发明的计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例的一种特征系数训练方法。

下面参考图6,其示出了适用于来实现本发明实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示,计算机系统600包括中央处理单元(cpu)601,其可以根据存储在只读存储器(rom)602中的程序或者从存储部分608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。在ram603中,还存储有计算机系统600操作所需的各种程序和数据。cpu601、rom602以及ram603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。

以下部件连接至i/o接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至i/o接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地,根据本发明公开的实施例,上文主要步骤图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行主要步骤图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(cpu)601执行时,执行本发明的系统中限定的上述功能。

需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。

附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括数据预处理模块、逻辑回归模型模块和特征系数确定模块。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,数据预处理模块还可以被描述为“获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理的模块”。

作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:获取标签数据和业务特征数据,对所述业务特征数据进行归一化处理;确定逻辑回归模型,将所述标签数据和所述归一化处理后的业务特征数据输入到所述逻辑回归模型;通过迭代优化算法确定所述逻辑回归模型的特征系数。

根据本发明的技术方案,本发明在大数据集上结合逻辑回归模型和迭代优化算法,能够利用更多的有效数据,准确快速的为每个业务特征计算出特征系数;通过在spark平台中调用l-bfgs算法使得程序运行在大数据集上,符合当今时代大数据机器学习的趋势,优化迭代算法更加健壮可靠,特征系数的优化迭代收敛速度更快;通过将逻辑回归模型订阅成离线任务实现了特征系数的自动化更新,既解放了数据分析师的一部分工作,节约资源,又能够及时准确地发现用户的个性化偏好,根据用户的最新购物行为自动更新对应的特征系数,提升了用户体验,对电商平台构建更智能的个性化推荐系统具有重大意义。

上述产品可执行本发明实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的方法。

上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1