提升模型泛化能力的方法、系统、电子设备及存储介质与流程

[0001]
本申请涉及数据建模领域，尤其涉及提升模型泛化能力的方法、系统、电子设备及存储介质。


背景技术：

[0002]
随着互联网技术的飞速发展，越来越多的公司能收集到大量的数据，并借助于机器学习或深度学习方法利用这些数据建模以对业务产生指导作用。充分利用这些数据的关键在于如何建模以使得模型能很好地对未见过的数据进行预测。一般而言，公司相关技术人员会先收集得到一部分有标签的样本，然后利用这部分有标签的样本来建模以对那些无标签的样本来打上标签。以性别预测模型来说，一般会先收集一些已知性别标签的样本，称之为训练集，然后利用此训练集来训练模型。而那些未知性别的样本(称之为测试集)则可以利用这个模型来进行预测标签。但是在进行预测时常常会出现模型泛化能力差的情况，因为现实情况常常是我们得到训练集与测试集的特征分布不一致，模型训练容易出现过拟合的情况，从而导致模型泛化能力差。在实际中一般采用随机抽取一部分训练集中的数据作为验证集的方法，采用在验证集中表现较好的模型来避免模型过拟合。虽然这种办法在一定程度上能避免过拟合，但是难以解决训练集测试集特征分布不一致导致的泛化能力差的问题。
[0003]
因此，针对以上现状，做出了提升模型泛化能力的方法、系统、电子设备及存储介质。本发明通过引入对抗验证的方法有效提升模型的泛化能力，通过分别对训练集和测试集打上不同的标签来建立一个5折交叉二分类模型，利用二分类模型来对训练集进行预测，将训练集样本中预测为测试集标签的样本设置为对抗验证集，然后使用剩余的训练集样本来训练模型，并得到在对抗验证集上表现最佳的模型。本发明通过构建对抗验证集，能使得验证集特征分布与测试集特征分布尽可能地保持一致性，从而使得验证集上表现最好的模型在测试集上表现同样最好，有效避免过拟合和提升模型泛化能力。


技术实现要素：

[0004]
本申请实施例提供了提升模型泛化能力的方法、系统、电子设备及存储介质，以至少解决相关技术中主观因素影响的问题。
[0005]
本发明提供了提升模型泛化能力的方法，基于筛选验证集，所述提升模型泛化能力的方法包括：
[0006]
对抗验证集获取步骤：分别对原始训练集与原始测试集打上标签，合并建立新训练集，并按照所述新训练集训练模型并预测之后从预测结果中获取对抗验证集；
[0007]
模型获取步骤：利用实际训练集与所述对抗验证集来训练模型，根据模型在所述对抗验证集上的结果获取最终模型。
[0008]
上述的提升模型泛化能力的方法，所述对抗验证集获取步骤包括：
[0009]
新训练集构建步骤：将所述原始训练集与原始测试集分别打上标签0和1，合并构
建新训练集；
[0010]
对抗验证集选取步骤：按照所述新训练集训练模型并预测，将所述新训练集均打上标签，从中选出预测为测试集的新训练集作为对抗验证集。
[0011]
上述的提升模型泛化能力的方法，所述模型获取步骤包括，利用所述实际训练集与所述对抗验证集来训练模型，并根据模型在所述对抗验证集上的结果获取最终模型。
[0012]
本发明还提供提升模型泛化能力的系统，其特征在于，基于筛选验证集,适用于上述所述的提升模型泛化能力的方法，包括：
[0013]
对抗验证集获取单元：分别对原始训练集与原始测试集打上标签，合并建立新训练集，并按照所述新训练集训练模型并预测，再从预测结果中获取对抗验证集；
[0014]
模型获取单元：利用实际训练集与所述对抗验证集来训练模型，根据模型在所述对抗验证集上的结果获取最终模型。
[0015]
上述的提升模型泛化能力的系统，所述对抗验证集获取单元包括：
[0016]
新训练集构建模块：将所述原始训练集与原始测试集分别打上标签0和1，合并构建信训练集；
[0017]
对抗验证集选取模块：按照所述新训练集训练模型并预测，将所述新训练集均打上标签，从中选出预测为测试集的新训练集作为对抗验证集。
[0018]
上述的提升模型泛化能力的系统，所述模型获取单元包括，利用所述实际训练集与所述对抗验证集来训练模型，并根据模型在所述对抗验证集上的结果获取最终模型。
[0019]
本发明还提供一种电子设备设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述任一项所述的提升模型泛化能力的方法。
[0020]
本发明还提供一种电子设备可读存储介质，所述电子设备可读存储介质上存储有计算机程序指令，所述计算机程序指令被所述处理器执行时实现上述任一项所述的提升模型泛化能力的方法。
[0021]
相比于相关技术，本申请实施例提供的提升模型泛化能力的方法、系统、电子设备及存储介质，本发明通过引入对抗验证的方法有效提升模型的泛化能力，通过分别对训练集和测试集打上不同的标签来建立一个5折交叉二分类模型，利用二分类模型来对训练集进行预测，将训练集样本中预测为测试集标签的样本设置为对抗验证集，然后使用剩余的训练集样本来训练模型，并得到在对抗验证集上表现最佳的模型。本发明通过构建对抗验证集，能使得验证集特征分布与测试集特征分布尽可能地保持一致性，从而使得验证集上表现最好的模型在测试集上表现同样最好，有效避免过拟合和提升模型泛化能力。
[0022]
本申请的一个或多个实施例的细节在以下附图和描述中提出，以使本申请的其他特征、目的和优点更加简明易懂。
附图说明
[0023]
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
[0024]
图1是根据本申请实施例的提升模型泛化能力的方法框架图；
[0025]
图2是根据本申请实施例的提升模型泛化能力的方法流程图；
[0026]
图3是根据本申请实施例的对抗验证集获取步骤流程图；
[0027]
图4为本发明的提升模型泛化能力的系统结构示意图；
[0028]
图5是根据本申请实施例的电子设备的框架图。
[0029]
其中，附图标记为：
[0030]
对抗验证集获取单元：21；
[0031]
模型获取单元：22；
[0032]
新训练集构建模块：211；
[0033]
对抗验证集选取模块：212；
[0034]
81：处理器；
[0035]
82：存储器；
[0036]
83：通信接口；
[0037]
80：总线。
具体实施方式
[0038]
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0039]
显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。
[0040]
在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。
[0041]
除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“a和/或b”可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。字符“/”一般表示前后关联对
象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。
[0042]
本发明基于筛选验证集，下面进行简要的介绍。
[0043]
数据建模指的是对现实世界各类数据的抽象组织，确定数据库需管辖的范围、数据的组织形式等直至转化成现实的数据库。将经过系统分析后抽象出来的概念模型转化为物理模型后，在visio或erwin等工具建立数据库实体以及各实体之间关系的过程(实体一般是表)。在软件工程中，数据建模是运用正式的数据建模技术，建立信息系统的数据模型的过程。数据建模是一种用于定义和分析数据的要求和其需要的相应支持的信息系统的过程。因此，数据建模的过程中，涉及到的专业数据建模工作，与企业的利益和用户的信息系统密切相关。从需求到实际的数据库，有三种不同的类型。用于信息系统的数据模型作为一个概念数据模型，本质上是一组记录数据要求的最初的规范技术。数据首先用于讨论适合企业的最初要求，然后被转变为一个逻辑数据模型，该模型可以在数据库中的数据结构概念模型中实现。一个概念数据模型的实现可能需要多个逻辑数据模型。数据建模中的最后一步是确定逻辑数据模型到物理数据模型中到对数据访问性能和存储的具体要求。数据建模定义的不只是数据元素，也包括它们的结构和它们之间的关系。模过程中的主要活动包括：确定数据及其相关过程(如实地销售人员需要查看在线产品目录并提交新客户订单)；定义数据(如数据类型、大小和默认值)；确保数据的完整性(使用业务规则和验证检查)；定义操作过程(如安全检查和备份)；选择数据存储技术(如关系、分层或索引存储技术)。一定要知道建模通常会以意想不到的方式涉及公司的管理。例如，当对哪些数据元素应由哪些组织来维护有新的见解时，数据所有权(以及数据维护、准确性和及时性的隐含责任)通常会遭到质疑。数据设计常常促使公司认识到企业数据系统是如何相互依存的，并且鼓励公司抓住协调后的数据规划所带来的效率提高、成本节约和战略性机遇。在结束建模时，您已经完全定义了应用程序的要求，确定了可能被其他企业级应用程序重复使用的数据和服务，并为将来扩展奠定了强有力的基础。
[0044]
在机器学习中，一般将样本分成独立的三部分训练集(train set)，验证集(validation set)和测试集(test set)。其中，测试集用来检验最终选择最优的模型的性能如何。其中训练集用来估计模型，验证集用来确定网络结构或者控制模型复杂程度的参数，而测试集则检验最终选择最优的模型的性能如何。一个典型的划分是训练集占总样本的50％，而其它各占25％，三部分都是从样本中随机抽取。但是，当样本总量少的时候，上面的划分就不合适了。常用的是留少部分做测试集。然后对其余n个样本采用k折交叉验证法。就是将样本打乱，然后均匀分成k份，轮流选择其中k-1份训练，剩余的一份做验证，计算预测误差平方和，最后把k次的预测误差平方和再做平均作为选择最优模型结构的依据。特别的k取n，就是留一法。泛化能力(generalization ability)是指机器学习算法对新鲜样本的适应能力。学习的目的是学到隐含在数据背后的规律，对具有同一规律的学习集以外的数据，经过训练的网络也能给出合适的输出，该能力称为泛化能力。通常期望经训练样本训练的网络具有较强的泛化能力，也就是对新输入给出合理响应的能力。应当指出并非训练的次数越多越能得到正确的输入输出映射关系。网络的性能主要用它的泛化能力来衡量。建模样本选取有误，如样本数量太少，选样方法错误，样本标签错误等，导致选取的样本数据不足以代表预定的分类规则；样本噪音干扰过大，使得机器将部分噪音认为是特征从而
扰乱了预设的分类规则；假设的模型无法合理存在，或者说是假设成立的条件实际并不成立；参数太多，模型复杂度过高；对于决策树模型，如果我们对于其生长没有合理的限制，其自由生长有可能使节点只包含单纯的事件数据(event)或非事件数据(no event)，使其虽然可以完美匹配(拟合)训练数据，但是无法适应其他数据集；对于神经网络模型：a)对样本数据可能存在分类决策面不唯一，随着学习的进行,，bp算法使权值可能收敛过于复杂的决策面；b)权值学习迭代次数足够多(overtraining)，拟合了训练数据中的噪声和训练样例中没有代表性的特征。过拟合是指为了得到一致假设而使假设变得过度严格。避免过拟合是分类器设计中的一个核心任务。通常采用增大数据量和测试样本集的方法对分类器性能进行评价。给定一个假设空间h，一个假设h属于h，如果存在其他的假设h’属于h,使得在训练样例上h的错误率比h’小，但在整个实例分布上h’比h的错误率小，那么就说假设h过度拟合训练数据。一个假设在训练数据上能够获得比其他假设更好的拟合，但是在训练数据外的数据集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。出现这种现象的主要原因是训练数据中存在噪音或者训练数据太少。
[0045]
现有的解决模型过拟合、提升模型泛化能力的方法一般为随机将原始训练集划分验证集和训练集，利用验证集来判断模型是否过拟合以提升模型效果。随机划分训练集的方法虽然在一定程度上可以解决过拟合问题，但很难提升模型的泛化能力，其仍然无法保证根据训练集的特征训练得到的模型适用于测试集的特征，因为用来检验模型是否过拟合的验证集来自于随机抽取的训练集。因此验证集特征分布与训练集是一致的但是无法保证其与测试集特征分布一致，因此无法保证通过此验证集得到的最佳模型在测试集上的表现也是最好的。
[0046]
本申请实施例提供的提升模型泛化能力的方法、系统、电子设备及存储介质，通过引入对抗验证的方法有效提升模型的泛化能力，通过分别对训练集和测试集打上不同的标签来建立一个5折交叉二分类模型，利用二分类模型来对训练集进行预测，将训练集样本中预测为测试集标签的样本设置为对抗验证集，然后使用剩余的训练集样本来训练模型，并得到在对抗验证集上表现最佳的模型。本发明通过构建对抗验证集，能使得验证集特征分布与测试集特征分布尽可能地保持一致性，从而使得验证集上表现最好的模型在测试集上表现同样最好，有效避免过拟合和提升模型泛化能力。
[0047]
下面将以筛选验证集为例对本申请实施例进行说明。
[0048]
实施例一
[0049]
本实施例提供了提升模型泛化能力的方法。请参照图1-图3，图1是根据本申请实施例的提升模型泛化能力的方法框架图；图2是根据本申请实施例的提升模型泛化能力的方法流程图；图3是根据本申请实施例的对抗验证集获取步骤流程图；如图1-图3所示，提升模型泛化能力的方法包括如下步骤：
[0050]
对抗验证集获取步骤s1：分别对原始训练集与原始测试集打上标签，合并建立新训练集，并按照所述新训练集训练模型并预测之后从预测结果中获取对抗验证集；
[0051]
模型获取步骤s2：利用实际训练集与所述对抗验证集来训练模型，根据模型在所述对抗验证集上的结果获取最终模型。
[0052]
实施例中，所述对抗验证集获取步骤s1包括：
[0053]
新训练集构建步骤s11：将所述原始训练集与原始测试集分别打上标签0和1，合并
构建新训练集；
[0054]
对抗验证集选取步骤s12：按照所述新训练集训练模型并预测，将所述新训练集均打上标签，从中选出预测为测试集的新训练集作为对抗验证集。
[0055]
具体的说，对抗验证集获取步骤s1包括，先将原始训练集和原始测试集分别打上标签0和1然后合并构建挑选对抗验证集样本的训练集。然后利用5折交叉验证训练模型并预测将所有的训练集样本均打上标签，从中挑选出预测标签为1(即测试集)概率最高的10％的样本作为验证集，此即为对抗验证集；剩余的训练集样本即作为实际训练集。
[0056]
实施例中，所述模型获取步骤s2包括，利用所述实际训练集与所述对抗验证集来训练模型，并根据模型在所述对抗验证集上的结果获取最终模型。
[0057]
由此，本发明实施例提供的提升模型泛化能力的方法、系统、电子设备及存储介质，通过引入对抗验证的方法有效提升模型的泛化能力，通过分别对训练集和测试集打上不同的标签来建立一个5折交叉二分类模型，利用二分类模型来对训练集进行预测，将训练集样本中预测为测试集标签的样本设置为对抗验证集，然后使用剩余的训练集样本来训练模型，并得到在对抗验证集上表现最佳的模型。本发明通过构建对抗验证集，能使得验证集特征分布与测试集特征分布尽可能地保持一致性，从而使得验证集上表现最好的模型在测试集上表现同样最好，有效避免过拟合和提升模型泛化能力。
[0058]
实施例二
[0059]
请参照图4，图4为本发明的提升模型泛化能力的系统结构示意图。如4所示，发明的提升模型泛化能力的系统，适用于上述的提升模型泛化能力的方法，提升模型泛化能力的系统包括：
[0060]
对抗验证集获取单元21：分别对原始训练集与原始测试集打上标签，合并建立新训练集，并按照所述新训练集训练模型并预测，再从预测结果中获取对抗验证集；
[0061]
模型获取单元22：利用实际训练集与所述对抗验证集来训练模型，根据模型在所述对抗验证集上的结果获取最终模型。
[0062]
在本实施例中，所述对抗验证集获取单元21包括：
[0063]
新训练集构建模块211：将所述原始训练集与原始测试集分别打上标签0和1，合并构建信训练集；
[0064]
对抗验证集选取模块212：按照所述新训练集训练模型并预测，将所述新训练集均打上标签，从中选出预测为测试集的新训练集作为对抗验证集。
[0065]
实施例三
[0066]
结合图5所示，本实施例揭示了一种电子设备的一种具体实施方式。电子设备可以包括处理器81以及存储有计算机程序指令的存储器82。
[0067]
具体地，上述处理器81可以包括中央处理器(cpu)，或者特定集成电路(application specific integrated circuit，简称为asic)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
[0068]
其中，存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器82可包括硬盘驱动器(hard disk drive，简称为hdd)、软盘驱动器、固态驱动器(solid state drive，简称为ssd)、闪存、光盘、磁光盘、磁带或通用串行总线(universal serial bus，简称为usb)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器82可
包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器82可在数据处理装置的内部或外部。在特定实施例中，存储器82是非易失性(non-volatile)存储器。在特定实施例中，存储器82包括只读存储器(read-only memory，简称为rom)和随机存取存储器(random access memory，简称为ram)。在合适的情况下，该rom可以是掩模编程的rom、可编程rom(programmable read-only memory，简称为prom)、可擦除prom(erasable programmable read-only memory，简称为eprom)、电可擦除prom(electrically erasable programmable read-only memory，简称为eeprom)、电可改写rom(electrically alterable read-only memory，简称为earom)或闪存(flash)或者两个或更多个以上这些的组合。在合适的情况下，该ram可以是静态随机存取存储器(static random-access memory，简称为sram)或动态随机存取存储器(dynamic random access memory，简称为dram)，其中，dram可以是快速页模式动态随机存取存储器(fast page mode dynamic random access memory，简称为fpmdram)、扩展数据输出动态随机存取存储器(extended date out dynamic random access memory，简称为edodram)、同步动态随机存取内存(synchronous dynamic random-access memory，简称sdram)等。
[0069]
存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器81所执行的可能的计算机程序指令。
[0070]
处理器81通过读取并执行存储器82中存储的计算机程序指令，以实现上述实施例中的任意一种文件系统容量管理优化方法。
[0071]
在其中一些实施例中，电子设备还可包括通信接口83和总线80。其中，如图5所示，处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。
[0072]
通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
[0073]
总线80包括硬件、软件或两者，将计算机设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一：数据总线(data bus)、地址总线(address bus)、控制总线(control bus)、扩展总线(expansion bus)、局部总线(local bus)。举例来说而非限制，总线80可包括图形加速接口(accelerated graphics port，简称为agp)或其他图形总线、增强工业标准架构(extended industry standard architecture，简称为eisa)总线、前端总线(front side bus，简称为fsb)、超传输(hyper transport，简称为ht)互连、工业标准架构(industry standard architecture，简称为isa)总线、无线带宽(infiniband)互连、低引脚数(low pin count，简称为lpc)总线、存储器总线、微信道架构(micro channel architecture，简称为mca)总线、外围组件互连(peripheral component interconnect，简称为pci)总线、pci-express(pci-x)总线、串行高级技术附件(serial advanced technology attachment，简称为sata)总线、视频电子标准协会局部(video electronics standards association local bus，简称为vlb)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
[0074]
该电子设备可连接提升模型泛化能力的系统，从而实现结合图1-图3描述的方法。
[0075]
另外，结合上述实施例中提升模型泛化能力的方法，本申请实施例可提供一种电
子设备可读存储介质来实现。该电子设备可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种提升模型泛化能力的方法。
[0076]
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0077]
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。