对无序分类变量信息无损分组的方法及装置的制造方法

对无序分类变量信息无损分组的方法及装置的制造方法
【专利摘要】本发明公开了一种对无序分类变量信息无损分组的方法及装置，包括步骤：在二值型目标变量的监督下，对无序分类变量中每个类别的值分别计算证据权重值；将所述证据权重值进行等深分组，划分为M个区间，并将所述M个区间作为无序分类变量的分组。本发明中公开的对无序分类变量信息无损分组的方法及装置，分组过程简单易理解，运算速度快，能够很好的保留无序分类变量对目标变量的区分能力。
【专利说明】
对无序分类变量信息无损分组的方法及装置
技术领域
[0001] 本发明涉及无序分类变量的分组领域，特别涉及一种对无序分类变量信息无损分 组的方法及装置。
【背景技术】
[0002] 随着互联网、云计算、物联网等技术的发展，带来了各行业中数据量的爆发式增 长，在这些数据中，无序型的分类变量占有很大一部分，针对这些无序分类变量，需要有快 速有效的方法进行数据的预处理，从而快速的发现数据中的价值。
[0003] 目前对于数据预处理中的变量分组问题，绝大多数人研究的都是对连续型变量的 分组或者说分箱。对于无序型的分类变量怎么实现有效信息无损的分组，基本会采取两种 处理方式:一种是通过经验去进行分组，这种方式效率极其低下，而且不能保证有效果；另 一种是不进行分组直接拿来使用，这种方式，对于无序分类变量的值分布很广泛时，在后续 的建模等应用时效果往往会很差。

【发明内容】

[0004] 本发明的主要目的为提供一种对无序分类变量信息无损分组的方法及装置，分组 过程简单易理解，运算速度快，能够很好的保留无序分类变量对目标变量的区分能力。
[0005] 本发明提出一种对无序分类变量信息无损分组的方法，包括步骤：
[0006] 在二值型目标变量的监督下，对无序分类变量中每个类别的值分别计算证据权重 值；
[0007] 将所述证据权重值进行等深分组，划分为Μ个区间，并将所述Μ个区间作为无序分 类变量的分组。
[0008] 进一步地，所述计算证据权重值的计算公式为：
[0010] 其中，Ν*3为全体无序分类变量样本中目标变量为0的样本数量，Ν1为全体无序分类 变量样本中目标变量为1的样本数量，ii= tribute为某类别数目下目标变量为0的样本数量， nim.ibute为某类别数目下目标z变量为1的样本数量，WOKtUute为i正据权重:i十算结果值。
[0011] 进一步地，所述将Μ个区间作为无序分类变量的分组的步骤之后还可以包括：
[0012] 计算分组后的无序分类变量对目标变量的信息值。
[0013] 进一步地，所述计算分组后的无序分类变量对目标变量的信息值的计算公式为：
[0015]其中，Ν*3为全体无序分类变量样本中目标变量为0的样本数量，Ν 1为全体无序分类 变量样本中目标变量为1的样本数量，n；；unbuu,为某类别数目下目标变量为0的样本数量， nittribme为某类别数目下目标变量为1的样本数量，W0Eattribute为分组·后每组·无序分类变量对· 应的证据权重计算结果值，IV为信息值。
[0016] 本发明还提供了一种对无序分类变量信息无损分组的装置，包括：
[0017] 证据权重计算单元，在二值型目标变量的监督下，对无序分类变量中每个类别的 值分别计算证据权重值;所述无序分类变量具有任意多个类别；
[0018] 等深分组单元，将所述证据权重值进行等深分组，划分为Μ个区间，并将所述Μ个区 间作为无序分类变量的分组。
[0019] 进一步地，所述证据权重计算单元的计算公式为：
[0021]其中，#为全体无序分类变量样本中目标变量为0的样本数量，Ν1为全体无序分类 变量样本中目标变量为1的样本数量，n=ribute.为某类别数目下目标变量为〇的样本数量， 为某类别数目下目标z变量为1的样本数量，TOEattnbutdi正据权重:i十算结果值。
[0022] 进一步地，还包括：
[0023]信息值计算单元，计算分组后的无序分类变量对目标变量的信息值。
[0024]进一步地，所述信息值计算单元的计算公式为：
[0026] 其中，N*3为全体无序分类变量样本中目标变量为0的样本数量，N1为全体无序分类 变量样本中目标变量为1的样本数量，n；； ttribute为某类别数目下目标变量为〇的样本数量， nLribUte为某类别数目下目标变量为1的样本数量，W0Eattribute为分组·后每组·无序分类变量 对应的证据权重计算结果值，IV为信息值。
[0027] 本发明中提出的对无序分类变量信息无损分组的方法及装置，具有以下有益效 果：
[0028] 本发明中提出的对无序分类变量信息无损分组的方法及装置，通过将无序分类变 量转换为一一对应的有大小区分的WOE值，再对WOE值进行区间的等深划分，并将划分结果 作为该无序分类变量的最终分组结果。本发明中的方法及装置可以适用于各行业中对无序 分类变量的分组，分组过程简单易理解，运算速度快，而且能够很好的保留无序分类变量对 目标变量的区分能力，实现信息无损分组。通过计算分组后的每组无序分类变量对目标变 量的信息值，对本发明中分组结果进行效果验证。
【附图说明】
[0029] 图1是本发明一实施例中对无序分类变量信息无损分组的方法示意图；
[0030]图2是本发明另一实施例中对无序分类变量信息无损分组的方法示意图；
[0031] 图3是本发明一实施例中对无序分类变量信息无损分组的装置结构示意图；
[0032] 图4是本发明另一实施例中对无序分类变量信息无损分组的装置结构示意图。
[0033] 本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
【具体实施方式】
[0034] 应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
[0035] 参照图1，为本发明一实施例中对无序分类变量信息无损分组的方法步骤示意 图。
[0036] 本发明一实施例中提出一种对无序分类变量信息无损分组的方法，包括：
[0037] 步骤S1，在二值型目标变量的监督下，对无序分类变量中每个类别的值分别计算 证据权重值；
[0038]步骤S2，将上述证据权重值进行等深分组，划分为Μ个区间，并将上述Μ个区间作为 无序分类变量的分组。
[0039]目前，对于无序型分类变量实现有效信息无损的分组，基本会采取两种处理方式： 一种是通过经验去进行分组，这种方式效率极其低下，而且不能保证有效果；另一种是不进 行分组直接拿来使用，这种方式，对于无序分类变量的值分布很广泛时，在后续的建模等应 用时效果往往会很差。在本实施例中，通过将无序分类变量转换为一一对应的有大小区分 的 W0E值，再对W0E值进行区间的等深划分，并将划分结果作为该无序分类变量的最终分组 结果。本实施例中的方法可以适用于各行业中对无序分类变量的分组，分组过程简单易理 解，运算速度快，而且能够很好的保留无序分类变量对目标变量的区分能力，实现信息无损 分组。
[0040] 进一步地，上述步骤S1中，计算证据权重值的计算公式为：
[0042] 其中，N*3为全体无序分类变量样本中目标变量为0的样本数量，N1为全体无序分类 变量样本中目标变量为1的样本数量，i^ ttHbute为某类别数目下目标变量为〇的样本数量， nittnbute为某类别数目下目标z变量为1的样本数量，正据权重计算:结果值。
[0043] 进一步地，参照图2,上述将Μ个区间作为无序分类变量的分组的步骤之后还可以 包括：
[0044] 步骤S3,计算分组后的无序分类变量对目标变量的信息值。
[0045] 为了验证上一实施例中对无序分类变量信息无损分组的方法的效果，在本实施例 中通过计算分组后的无序分类变量对目标变量的信息值，对分组进行效果验证。本实施例 中的效果验证，可采用实验的方式进行对比验证。对照组采用不对无序分类变量进行分组 或按照业务经验等方式进行分组，按照业务经验进行分组往往会需要大量的时间进行人工 分组;实验组采用上一实施例中的方案进行分组。对比实验组和对照组对目标变量的信息 值贡献，即可进行效果验证。信息值是衡量一个变量对目标变量区分能力的大小，在正常 情况下无序分类变量分组后对目标变量的信息值越大，效果越好。
[0046]进一步地，上述计算分组后的无序分类变量对目标变量的信息值的计算公式为：
[0048] 其中，N*3为全体无序分类变量样本中目标变量为0的样本数量，N1为全体无序分类 变量样本中目标变量为1的样本数量，n= rtnbute为某类别数目下目标变量为0的样本数量， 为某类别数目下目标变量为1的样本数量，W0Eattribute为分组后每组无序分类变量 对应的证据权重计算结果值，IV为信息值。
[0049] 在一具体实施例中，通过对某一真实的数据集来进行验证，数据条数为9650452 条，目标变量为二值型，设为Y，取值为〇、1，其对应的数量分别为9468561和181891，无序分 类变量(X)的类别对应为211个国家和地区，设为K。其中，Ke{ x|x彡l〇〇，x为整数}。
[0050] 采用上述分组方法对无序分类变量的处理流程如下：
[0051] 1.对无序分类变量X的211个国家和地区（即K = 211)，在目标变量Y的监督下计算 其每一个值对应的W0E值：
[0053] 2.对无序分类变量X的211个国家和地区对应的W0E值进行Μ个区间的等深分组，其 中，Me {χ | 5彡X彡20，χ为整数}。
[0054] 本实施例中进行了分组数为5组和10组的实验，即Μ = 5和Μ = 10。
[0055] 3.将无序分类变量X的211个国家和地区对应的W0E值分组后的结果作为无序分类 变量X的最终分组结果。
[0056] 4.对无序分类变量X分组后的结果重新计算每组的W0E值。
[0057] 分为5组时：
[0060] 分为10组时：
[0062] 5.计算分组后的无序分类变量对目标变量的信息值(IV值）。
[0063]划分为5组时的信息值：
[0065]划分为10组时的信息值：
[0067] 6.为了对比分组效果，本实例分别计算了无序分类变量在完全不分组、按洲分组 及按地域进行分组的情况下对目标变量的信息值(IV值）。
[0068] 本实施例实例中计算的结果参照表一以及表二，其中表一为对照组数据结果，其 采用不对无序分类变量进行分组或按照业务经验等方式进行分组:表二为实验组数据结 果，采用本发明实施例中分组方法。
[0072] 表二
[0073] 通过对比表一和表二，可以发现本发明实施例中提供的方法能够在实现对无序分 类变量进行快速分组的同时，保证了该无序分类变量对目标变量的区分能力不会下降，即 表二中在划分为10组和5组的情况下的IV值比表一中不分组和按业务经验分组后的IV值要 大，而IV值越大，分组效果越好。
[0074]参照图3,为本发明一实施例中对无序分类变量信息无损分组的装置结构示意图。
[0075] 本发明一实施例中还提供了一种对无序分类变量信息无损分组的装置，包括：
[0076] 证据权重计算单元10,在二值型目标变量的监督下，对无序分类变量中每个类别 的值分别计算证据权重值;上述无序分类变量具有任意多个类别；
[0077] 等深分组单元20，将上述证据权重值进行等深分组，划分为Μ个区间，并将上述Μ个 区间作为无序分类变量的分组。
[0078]目前，对于无序型分类变量实现有效信息无损的分组，基本会采取两种处理方式： 一种是通过经验去进行分组，这种方式效率极其低下，而且不能保证有效果；另一种是不进 行分组直接拿来使用，这种方式，对于无序分类变量的值分布很广泛时，在后续的建模等应 用时效果往往会很差。在本实施例中，通过证据权重计算单元10将无序分类变量转换为一 一对应的有大小区分的WOE值，再通过等深分组单元20对WOE值进行区间的等深划分，并将 划分结果作为该无序分类变量的最终分组结果。本实施例中的装置可以适用于各行业中对 无序分类变量的分组，分组过程简单易理解，运算速度快，而且能够很好的保留无序分类变 量对目标变量的区分能力，实现信息无损分组。
[0079] 进一步地，上述证据权重计算单元10的计算公式为：
[0081] 其中，N*3为全体无序分类变量样本中目标变量为0的样本数量，N1为全体无序分类 变量样本中目标变量为1的样本数量，为某类别数目下目标变量为〇的样本数量， nittribute为某类别数目下目标z变量为1的样本数量，正据权重:i十算结果值。
[0082] 进一步地，参照图4,上述对无序分类变量信息无损分组的装置还包括：
[0083] 信息值计算单元30,计算分组后的无序分类变量对目标变量的信息值。
[0084] 为了验证上一实施例中对无序分类变量信息无损分组的方法的效果，在本实施例 中通过计算分组后的无序分类变量对目标变量的信息值，对分组进行效果验证。本实施例 中的效果验证，可采用实验的方式进行对比验证。对照组采用不对无序分类变量进行分组 或按照业务经验等方式进行分组，按照业务经验进行分组往往会需要大量的时间进行人工 分组;实验组采用上一实施例中的方案进行分组。对比实验组和对照组对目标变量的信息 值贡献，即可进行效果验证。信息值是衡量一个变量对目标变量区分能力的大小，在通常情 况下，无序分类变量分组后对目标变量的信息值越大，效果越好。在具体实施例中进行效果 验证的方法步骤可参考上述的一个具体实施例。
[0085] 进一步地，上述信息值计算单元的计算公式为：
[0087] 其中，#为全体无序分类变量样本中目标变量为0的样本数量，N1为全体无序分类 变量样本中目标变量为1的样本数量，n^. ibute为某类别数目下目标变量为〇的样本数量， nitmbute为某类别数目下目标变量为1的样本数量，W0Eattribute为分组后每组无序分类变量 对应的证据权重计算结果值，IV为信息值。
[0088] 综上所述，为本发明实施例中提出的对无序分类变量信息无损分组的方法及装 置，通过将无序分类变量转换为一一对应的有大小区分的W0E值，再对W0E值进行多个区间 的等深划分，并将划分结果作为该无序分类变量的最终分组结果。本发明实施例中的方法 及装置可以适用于各行业中对无序分类变量的分组，分组过程简单易理解，运算速度快，而 且能够很好的保留无序分类变量对目标变量的区分能力，实现信息无损分组。通过计算分 组后的每组无序分类变量对目标变量的信息值，对本发明实施例中的分组结果进行效果验 证。
[0089]以上所述仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用 本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关 的技术领域，均同理包括在本发明的专利保护范围内。
【主权项】
1. 一种对无序分类变量信息无损分组的方法，其特征在于，包括步骤： 在二值型目标变量的监督下，对无序分类变量中每个类别的值分别计算证据权重值； 将所述证据权重值进行等深分组，划分为Μ个区间，并将所述Μ个区间作为无序分类变 量的分组。2. 根据权利要求1所述的对无序分类变量信息无损分组的方法，其特征在于，所述计算 证据权重值的计算公式为：其中，沪为全体无序分类变量样本中目标变量为0的样本数量，Ni为全体无序分类变量 样本中目标变量为1的样本数量，nlihut。为某类别数目下目标变量为0的样本数量，n^ttubub 为某类别数目下目标变量为1的样本数量，WOEattribute为证据权重计算结果值。3. 根据权利要求1所述的对无序分类变量信息无损分组的方法，其特征在于，所述将Μ 个区间作为无序分类变量的分组的步骤之后还可W包括： 计算分组后的无序分类变量对目标变量的信息值。4. 根据权利要求3所述的对无序分类变量信息无损分组的方法，其特征在于，所述计算 分组后的无序分类变量对目标变量的信息值的计算公式为：其中，沪为全体无序分类变量样本中目标变量为0的样本数量，ni为全体无序分类变量 样本中目标变量为1的样本数量，为某类别数目下目标变量为0的样本数量，TlltWbute 为某类别数目下目标变量为1的样本数量，WOEattribute为分组后每组无序分类变量对应的证 据权重计算结果值，IV为信息值。5. -种对无序分类变量信息无损分组的装置，其特征在于，包括： 证据权重计算单元，在二值型目标变量的监督下，对无序分类变量中每个类别的值分 别计算证据权重值;所述无序分类变量具有任意多个类别； 等深分组单元，将所述证据权重值进行等深分组，划分为Μ个区间，并将所述Μ个区间作 为无序分类变量的分组。6. 根据权利要求5所述的对无序分类变量信息无损分组的装置，其特征在于，所述证据 权重计算单元的计算公式为：其中，沪为全体无序分类变量样本中目标变量为0的样本数量，Ni为全体无序分类变量 样本中目标变量为1的样本数量，lifibute为某类别数目下目标变量为0的样本数量， 为某类别数目下目标变量为1的样本数量，WOEattribute为证据权重计算结果值。7. 根据权利要求5所述的对无序分类变量信息无损分组的装置，其特征在于，还包括： 信息值计算单元，计算分组后的无序分类变量对目标变量的信息值。8.根据权利要求7所述的对无序分类变量信息无损分组的装置，其特征在于，所述信息 值计算单元的计算公式为：其中，沪为全体无序分类变量样本中目标变量为0的样本数量，ni为全体无序分类变量 样本中目标变量为1的样本数量，为某类别数目下目标变量为0的样本数量，nlttrihute 为某类别数目下目标变量为1的样本数量，WOEattribute为分组后每组无序分类变量对应的证 据权重计算结果值，IV为信息值。
【文档编号】G06F19/00GK106096224SQ201610309708
【公开日】2016年11月9日
【申请日】2016年5月10日
【发明人】梁猛, 王界兵, 张伟, 李 杰, 韦辉华, 郭宇翔
【申请人】深圳前海信息技术有限公司