一种超参数调优的装置的制作方法

本发明涉及深度学习模型，更具体地涉及一种超参数调优的装置。

背景技术：

1、深度学习是学习样本数据的内在规律和表示层次，在学习过程中获得的信息对诸如文字、图像和声音等数据的解释，深度学习的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据，深度学习是一个复杂的机器学习算法，在语音和图像识别方面取得的效果，远远超过先前相关技术；

2、深度学习在搜索技术、数据挖掘、机器学习、机器翻译、自然语言处理、多媒体学习、语音、推荐和个性化技术，以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了很多复杂的模式识别难题，使得人工智能相关技术取得了很大进步；

3、而基于深度学习所建立的深度学习模型，对于深度学习模型来说，性能良好的模型通常需要很长时间来训练，相反，快速训练的模型通常会导致模型性能较差，因此，有必要确定神经网络模型的最佳超参数配置，以产生良好的模型性能和快速的训练时间，如在进行交易时，若是无法快速且准确的寻找到所需要的参数，会对整体的交易过程造成不良影响，甚至会造成交易的失败，但是现在并没有良好的最佳超参数配置，因此亟需一种超参数调优的装置，以解决问题上述问题。

技术实现思路

1、为了克服现有技术的上述缺陷，本发明的实施条例提供一种超参数调优的装置，以解决背景技术中所提出的技术问题。

2、为实现上述目的，本发明提供如下技术方案：一种超参数调优的装置，包括取数单元、数据预处理单元、建模单元以及绩效计算单元，所述取数单元用于构建智能交易预测数据库，并进行数据收集与更新，且所述取数单元的数据收集与更新频率为每天，所述数据预处理单元用于构建最终的训练集和测试集，所述建模单元用xgboost寻找适于智能交易的最佳交易预测模型，即所述建模单元寻找一组xgboost预测表现最好的超参数，且所述建模单元嵌套超频带贝叶斯调优模组和网格搜索调优模组，所述绩效计算单元计算调用网格搜索调优模组、超频带贝叶斯调优模组所建立的智能交易预测投资组合1个月的回报和建模时间，并选择绩效高的智能交易预测模型；所述取数单元所采集的信息为石油价格、黄金价格、货币价格、10年期国债收益率、国家经济活动指数、三月期有担保隔夜融资利率、三月期国家国债利率之差、国家高收益指数期权调整利差，共8个特征，且取数单元的时间窗口为前20年至今，所述取数单元将所采集到的信息保存在数据库内。

3、在一个优选的实施方式中，所述数据预处理单元包括数据提取模组、缺失值填充模组、数据分割模组以及回报值计算模组，所述数据提取模组提取时间窗口为前20年至今的智能交易预测数据，并形成数值数据集，且数值数据集特征为数据库中的8个特征，缺失值填充模组用于查找获知数值数据集中各个特征列中的异常值，并应用存在异常值的特征列中的除异常值外所有数的平均数替代该异常值，回报值计算模组，以一个月22个交易日计算每天每个指数的回报率。

4、在一个优选的实施方式中，所述数据分割模组将数据集根据20/80法则进行分割，将数值数据集内的前16年数据划为训练集，将前17年至20年前的初始前4年数据划为测试集，将前20年至今的全部智能交易预测数据进行分割，回报值计算模组将一个月22个交易日计算每天每个指数的回报率。

5、在一个优选的实施方式中，所述缺失值填充模组的异常值的判定公式为q1-1.5iqr＜xi＜q3+1.5iqr，式中xi为数据集中的特征，且{x1,x2,...,xi,...,xn}∈x，1≤i≤n，x为数据集中的某个特征，iqr为数据集的四分位差，q1为第一个四分位数、q3为第三个四分位数，当数据集中的特征超过判定公式的下限或上限时，将其判定为异常值，且将全部的异常值进行筛出后，将除异常值外所有数的平均数替代该异常值。

6、在一个优选的实施方式中，所述超频带贝叶斯调优模组由一个由代理函数模块与一个采集函数模块组成，两个模块组成的代理函数模块近似智能交易预测数据组成的真实函数，计算从训练集中所有数据xi的先验概率f*(x)，f*～n(0,σ2t)，式中f*(x)为先验概率函数，f*～n(0,σ2t)表示先验概率函数遵循均值等于0，方差等于σ2t的正态分布，且先验概率函数的组成公式为式中x为数据集中的某个特征，t为时间。

7、在一个优选的实施方式中，所述代理函数模块取训练集的2-1的数据输入采集函数模块，计算x的期望改进值ei，期望改进值ei的计算公式为

8、

9、式中φ(·)与为标准正态密度和标准正态分布函数，fmin为每次迭代时观测到的最佳函数，μ(x)为采集函数对目标函数在点x处的均值预测、σ(x)为采集函数对目标函数在点x处的标准差预测，取训练集2-2，2-3，...2-3的数据，每次迭代重新计算一次期望改进值ei，其收敛后，生成最终的期望改进值ei。

10、在一个优选的实施方式中，所述网格搜索调优模组，给xgboost的参数组列定一组数值，且所述网格搜索调优模组在一组xgoost模型中穷举出精度最高的模型，如果建模时间超过40分钟则停止建模，并选取当前精度最高的模型。

11、在一个优选的实施方式中，所述绩效计算单元，计算调用网格搜索调优模组、超频带贝叶斯调优模组的建立的智能交易预测投资组合1个月的回报与建模时间，建模时间小于20分钟给对应预测算法加100分，20分钟～40分钟加60分，大于40分钟加0分，且绩效计算单元用网格搜索调优模组、超频带贝叶斯调优模组的建立的投资组合回报小于投资标准普尔100股指1个月的回报的，给对应预测算法0分，投资组合回报排名第一的给对应算法加100分。

12、在一个优选的实施方式中，所述绩效计算单元将最终分数等于在建模时间和回报中分数的加权平均数，建模时间在40分钟内，建模时间和回报中的加分权重各占50％，建模时间大于40分钟建模时间得分占100％选择绩效高的智能交易预测模型，作为最终的智能交易预测模型进行使用。

13、在一个优选的实施方式中，投资组合的买卖策略为买进前一日模型预测回报前3名的股指卖出汇报预测倒数3名的股指，所述绩效计算单元的智能交易预测投资组合1个月的回报为：当月持有股指回报涨跌的算术和。

14、本发明的技术效果和优点：

15、1、本发明的建模单元内，嵌入了一个超频带贝叶斯优化算法模块，该模块旨在极大加快xgboost的训练速度，节约训练的时间成本，极大降低训练深度学习预测模型的算力成本，降低交易策略的试错成本，且本发明可在算力不高的情况下，用深度学习建立更准确的预测模型、在更短的时间内寻找套利策略；

16、2、本发明通过绩效计算单元计算调用网格搜索调优模组、超频带贝叶斯调优模组的建立的智能交易预测投资组合1个月的回报，进而可以了解本技术所建立的模型在进行使用时，精度是否足够，并且会根据所计算出的回报给予分数并进行排名，保证智能交易预测模型的准确性。

17、3、本发明的预处理单元内的缺失值填充模组，将全部的异常值进行筛出后，将除异常值外所有数的平均数替代该异常值，进而保证最终所计算出的结果不会受到异常值的影响，保证后续处理的准确性，本技术所采集的数据为前20年至今的全部智能交易预测数据，提高准确性。