一种生物医用
β
钛合金的杨氏模量的机器学习预测方法
技术领域
1.本发明涉及材料性能预测技术领域，特别是指一种多层机器学习模型的生物医用β钛合金的杨氏模量的机器学习预测方法。
背景技术：2.目前临床中应用的生物医用材料主要包括纯金属钛、钽、铌、锆、生物医用不锈钢、钴基及钛基合金等，主要用于各种人工关节、颅骨缺损修补面以及冠脉搭桥支架等(何宝明，王玉林，戴正宏.生物医用钛及其合金材料的开发应用进展，市场状况及问题分析[j].钛工业进展,2003(5):82-87)。钛及钛合金在生物医学领域获得了广泛的应用，这主要是因其密度低，在大气和腐蚀液体环境中具有良好的耐腐蚀性。由于钛合金的无磁性，在核磁共振成像中较不锈钢和钴铬基合金具有良好的成像能力。钛及钛合金具有良好的力学性能、耐腐蚀性能以及生物相容性，成为植入人体的首选材料。
[0003]
杨氏模量是生物医用材料的一项重要的性能指标，植入人体的金属虽需要一定的结构强度。如果植入材料的杨氏模量远高于人体骨骼模量，即会产生应力屏蔽效应(即两个弹性模量不同的材料一起受力的时候，杨氏模量大的会承受较多的应力，杨氏模量低的骨骼几乎不承受应力)，导致术后骨骼不能得到锻炼而渐渐萎缩。
[0004]
钛合金按室温下的组织形态，主要分为α、α+β和β型钛合金。最早用于生物医用的钛合金主要以纯钛(α型)和ti-6al-4v(α+β型)合金为代表。但纯钛和ti-6al-4v合金的模量(≈110gpa)远高于人体骨骼(《35gpa)，植入人体后会产生应力屏蔽效应，使得植入物附近骨骼异常退化。相较于α和α+β钛合金，β型钛合金能具有出优异的生物相容性、高强度以及低模量等特性，生物医用方面存在巨大潜力。在设计新型低模量钛合金的过程中，人们普遍认为在简单的合金体系中很难实现保证低模量以及高β稳定性。并且，合金元素对杨氏模量的影响，必须通过机械测试来确定，仍然很复杂，基本上没有确定。因此，人们渴望开发出无毒以及与天然骨骼模量相匹配的钛基材料作为人体植入物。近年来，添加钽、铌、锆、和钼等无毒、β稳定合金元素设计低模量钛合金引起了研究人员的极大关注。
[0005]
新型研制的生物体用β型钛合金的杨氏模量值普遍较低,包括美国开发的ti-13nb-13zr、ti-35nb-7zr-5ta、ti-12mo-6zr-2fe、ti-15nb、ti-35.3nb-5.1ta-7.1zr合金，日本开发的ti-29nb-13ta-4.6zr合金，以及中科院金属所研制的ti-24nb-4zr-7.5sn合金等等。这些合金的杨氏模量在55-85gpa之间。
[0006]
杨氏模量往往需要通过力学性能试验来测得。在设计新型β钛合金材料时，合金成分以及热处理工艺的变化都导致杨氏模量变化。然而，基于这些经验计算以及理论指导的实验性试错方法很难有效得到合金元素成分与杨氏模量之间的关系。通过传统的实验方法需要花费巨大的科研成本，且耗费时间长，急需提供一种新的材料预测方法，快速、准确预测其杨氏模量。
[0007]
机器学习(machine learning)方法已逐步应用于材料建模来更准确地预测材料特性，其关键是针对一类问题找到一个将输入空间投影到输出空间的映射模型。通过使用
机器学习模型，可以加速实现材料的研发。在机器学习领域，常用的机器学习方法模型有随机森林(random forest)、支持向量机(support vector machine)等模型，这些方法为材料的成分优化、热处理工艺研究以及性能研究等提供了先进有效手段。
[0008]
在材料科学领域，能够收集到的实验数据往往较少，通过某一种机器学习建模方法并不能取得好的预测结果。在实际的材料预测过程中，单一的机器学习方法在建模过程中存在过拟合、泛化能力差等问题。
[0009]
文献1(yuan et al.accelerated search for bati-ob3ased ceramics with large e nergy storage at low fields using machine learning and experimental design[j].advanced science,2019,6(21).)提出一种以数据驱动，通过集成的机器学习模型预测的不确定性迭代来探索高性能材料。
[0010]
文献2(wen et al.accelerated search for bati-ob3ased ceramics with large energy storage at low fields using machine learning and experimental design[j].advanced science,2019,6(21).)提出了一种结合机器学习、实验设计和实验反馈的数据驱动方法，以加速寻找具有目标特性的多组分合金。该机器学习方法通过自助采样的方法生成500个模型，通过实验进行主动学习反馈循环，成功预测的合金比原始训练的合金的性能高出10％。
[0011]
上述集成学习框架的特点是，不同机器学习模型对同一数据集做出预测时，有着不同的预测偏向性。对于钛合金的杨氏模量的预测，具有组织形态多样、特征复杂、数据集维度较大等特点，难以保证预测结果的准确性和稳健性。
技术实现要素：[0012]
本发明要解决的技术问题是提供一种生物医用β钛合金的杨氏模量的机器学习预测方法，通过多层模型的架构，提高了模型的预测的准确性和稳健性，使得预测结果更加准确。
[0013]
为了实现以上目的，本发明的技术方案为：
[0014]
一种生物医用β钛合金的杨氏模量的机器学习预测方法，包括：
[0015]
步骤a：收集钛合金的相组成相关的第一原始数据集和杨氏模量相关的第二原始数据集，分别将第一原始数据集和第二原始数据集中的数据一部分作为训练集，另一部分作为测试集；
[0016]
步骤b：分别对第一原始数据集和第二原始数据集生成皮尔逊相关性热力图查看特征之间的关联程度；
[0017]
步骤c：分别对第一原始数据集和第二原始数据集进行归一化处理得到第一数据集和第二数据集；
[0018]
步骤d：利用特征选择方法，剔除不相关或冗余的特征；
[0019]
步骤e：生成第一层机器学习模型用来预测钛合金的微观组织相组成，采用第一数据集进行模型训练；
[0020]
步骤f：使用第一层机器学习模型预测第二数据集中的钛合金的微观组织是否为β相，筛选后的第二数据集将作为第二层机器学习模型的输入；
[0021]
步骤g：生成第二层机器学习模型用来初步预测β钛合金的杨氏模量，该第二层包
括n个不同的基模型；第二层交叉验证的折数为k2，初始化k2＝1，n＝1；
[0022]
步骤h：对第n个模型进行第k2折交叉验证训练；
[0023]
步骤i：判断k2是否小于等于k2，如果是，执行步骤j；否则，执行步骤k；
[0024]
步骤j：k2＝k2+1，回到步骤h；
[0025]
步骤k：判断n是否小于等于n，如果是，继续执行步骤l；如果否，执行步骤m：
[0026]
步骤l：n＝n+1，回到步骤h；
[0027]
步骤m：生成第三层机器学习模型用来预测β钛合金的杨氏模量，将第二层机器学习模型的输出结果作为第三层机器学习模型的输入数据；
[0028]
步骤n：输出第三层机器学习模型的预测结果；至此，模型训练完成。
[0029]
进一步改进，所述步骤c采用下式的归一化处理：
[0030][0031]
其中，x代表特征列中样本点的原始初值，x
min
代表样本点所在特征列中的最小值，x
max
代表样本点所在特征列中的最大值，x
′
代表原始数据集经过归一化处理后的数据集。
[0032]
进一步改进，所述步骤d中的特征选择方法包括递归消除法和顺序选择向前法。
[0033]
进一步改进，步骤e中，所述训练过程为：
[0034]
步骤e1、第一层机器学习模型交叉验证的折数为k1，初始化k1＝1；
[0035]
步骤e2：进行第k1折交叉验证训练；
[0036]
步骤e3：判断k1是否小于等于k1，如果是，执行步骤e4；否则，执行步骤f；
[0037]
步骤e4：k1＝k1+1，回到步骤e2。
[0038]
进一步改进，所述步骤e中的第一层机器学习模型为随机森林(random forest)。
[0039]
进一步改进，k1＝5～10。
[0040]
进一步改进，k2＝5～10，n＝5。
[0041]
进一步改进，所述步骤g中第二层的基模型分别为随机森林(random forest)、极限随机树(extra tree)、支持向量机(svm)、梯度提升(gradient boost)和岭回归(ridge)。进一步改进，所述步骤m中第三层机器学习模型为lightgbm。
[0042]
本发明的有益效果为：
[0043]
1.本发明预测方法为三层机器学习模型结构，通过第一层机器学习模型过滤掉非β钛合金，第二层机器学习模型的预测结果由多个不同机器学习模型的预测产生，第三层机器学习模型将第二层模型的预测结果进行拟合回归，提高了预测准确度以及泛化性，与实验测得的结果更加吻合；
[0044]
2.本发明构建了多层集成学习模型，使用集成的机器学习算法预测合金杨氏模量，代替了大量的重复试验，降低了时间成本和研发成本；
[0045]
3.本发明提出的机器学习方法，得到了杨氏模量与合金成分、热处理工艺温度等影响因素之间的函数关系，加速了新型生物医用β钛合金的研发。
附图说明
[0046]
图1为本发明实施例的生物医用β钛合金的杨氏模量的机器学习预测方法流程图；
[0047]
图2为本发明实施例中钛合金微观组织相组成数据集特征值之间的皮尔逊相关热
图；
[0048]
图3为本发明实施例中钛合金杨氏模量数据集特征值之间的皮尔逊相关热图；
[0049]
图4为本发明实施例中第一层机器学习模型在测试集上的预测结果；
[0050]
图5为本发明实施例中第三层机器学习模型在测试集上的预测结果。
具体实施方式
[0051]
以下结合附图和具体实施例对本发明做进一步解释。
[0052]
本发明针对现有生物医用β钛合金领域，合金成分以及热处理工艺的变化都导致杨氏模量变化。通过传统的实验方法设计低杨氏模量钛合金需要花费巨大的科研成本，且耗费时间长，急需提供一种新的材料预测方法，快速、准确预测其杨氏模量。
[0053]
参考图1，实施例的生物医用β钛合金的杨氏模量的机器学习预测方法，包括：
[0054]
步骤a：收集钛合金的相组成相关的第一原始数据集和杨氏模量相关的第二原始数据集，分别将第一原始数据集和第二原始数据集中的数据一部分作为训练集，另一部分作为测试集。第一原始数据集包括特征和微观组织相组成，第二原始数据集包括特征和杨氏模量值。特征包括合金的化学成分、热处理工艺以及合金的物理化学性质，总共有34个。第一原始数据集总共350条，第二原始数据集总共242条，按7：3的比例划分训练集和测试集。
[0055]
步骤b：分别对第一原始数据集和第二原始数据集生成皮尔逊相关性热力图查看特征之间的关联程度。
[0056]
图2和图3分别为本发明的第一原始数据集和第二原始数据集的特征值之间的皮尔逊相关热图。颜色的深浅代表着两个特征值之间的相关性大小，颜色越深，特征值之间的正相关性越大；颜色越浅，特征值之间的负相关性越大。如图2和图3所示，特征之间的相关性明显，存在冗余的特征，会导致模型预测误差偏大，有必要剔除这些特征。
[0057]
步骤c：分别对第一原始数据集和第二原始数据集进行归一化处理得到第一数据集和第二数据集。
[0058]
本步骤中，可以采用各种归一化处理方式，例如，原始数据集的每列数据的每个样本点分别进行下式的归一化处理：
[0059][0060]
其中，x代表特征列中样本点的原始初值，x
min
代表样本点所在特征列中的最小值，x
max
代表样本点所在特征列中的最大值，x
′
代表原始数据集经过归一化处理后的数据集。
[0061]
步骤d：利用特征选择方法，剔除不相关或冗余的特征；
[0062]
特征选择方法包括递归消除法和顺序选择向前法。由于所述的特征选择方法为本领域公知常识，故此处不再赘述。使用特征选择方法后，第一数据集和第二数据集的特征个数分别为12和9。
[0063]
步骤e：生成第一层机器学习模型，采用第一数据集建立模型。该第一层机器学习器模型为随机森林模型，用来预测钛合金的微观组织相组成。模型训练步骤包括：
[0064]
步骤e1、第一层机器学习模型交叉验证的折数为k1＝10，初始化k1＝1；
[0065]
步骤e2：进行第k1折交叉验证训练；
[0066]
步骤e3：判断k1是否小于等于k1，如果是，执行步骤e4；否则，执行步骤f；
[0067]
步骤e4：k1＝k1+1，执行步骤e2。
[0068]
步骤f：使用第一层机器学习模型预测杨氏模量数据集中的钛合金微观组织是否为β相，若为β相则通过筛选。经过筛选后的杨氏模量数据集将作为第二层机器学习模型的输入。第一层机器学习模型为随机森林(random forest)。
[0069]
步骤g：生成第二层机器学习模型。该第二层包括5个不同的基模型，分别为随机森林(random forest)、极限随机树(extra tree)、支持向量机(svm)、梯度提升(gradient boost)和岭回归(ridge)；第二层交叉验证的折数为k2＝10，初始化k2＝1，n＝1；
[0070]
步骤h：对第n个模型进行第k2折交叉验证训练；
[0071]
步骤l：判断k是否小于等于k2，如果是，执行步骤m；否则，执行步骤n；
[0072]
步骤m：k＝k+1，回到步骤h；
[0073]
步骤n：判断n是否小于等于n，如果是，继续执行步骤o；如果否，执行步p：
[0074]
步骤o：n＝n+1，回到步骤h；
[0075]
步骤p：生成第三层机器学习模型用来预测β钛合金的杨氏模量，将第二层机器学习模型的输出结果作为第三层机器学习模型的输入数据。第三层机器学习模型为lightgbm；
[0076]
步骤q：输出第三层机器学习模型的预测结果；至此，模型训练完成。
[0077]
步骤r：模型训练后，对测试集进行预测；至此，模型的测试完成。
[0078]
图4为本发明中第一层模型在测试集上得到的roc曲线。roc曲线用来评估机器学习模型的泛化性能。通过计算roc曲线与坐标轴围成的面积值auc具体量化模型的分辨能力好坏。如图4所示，模型在测试集上预测的准确度auc为0.96(auc的取值范围为0～1，越接近1，预测越准确)，在测试集上的预测准确度较高。
[0079]
图5为本发明中第三层机器学习模型测试集上的预测值与实际值对比图。模型的预测精度采用确定系数r2、均方根误差rmse来衡量(确定系数r2越接近1，模型预测越准确；均方根误差rmse越小，模型预测越准确)。如图5所示，在测试集上的r2和rmse分别为4.79gpa和0.92。可以得出，模型在测试集上的误差较低，预测效果很好。
[0080]
上述实施例仅用来进一步说明本发明的一种生物医用β钛合金的杨氏模量的机器学习预测方法，但本发明并不局限于实施例，凡是依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均落入本发明技术方案的保护范围内。