基于人工智能的数字化招标文件制作和评估系统的制作方法

文档序号:36787685发布日期:2024-01-23 12:04阅读:37来源:国知局
基于人工智能的数字化招标文件制作和评估系统的制作方法

本发明涉及人工智能领域,具体是指基于人工智能的数字化招标文件制作和评估系统。


背景技术:

1、随着时代的飞速发展,各种高科技的技术和方法被应用在不同的领域,很多行业都在向信息化,智能化的方向发展,因此,数字化招标技术也开始发展和流行起来,现有的数字化招标缺少智能化制作招标文件功能的系统,不能快速的生成招标文件模版,且招标文件模版过于单一化;缺少智能评估系统,需要大量的人工对投标的文件进行筛选评估,增加了评估的难度。


技术实现思路

1、针对上述情况,本发明提供了基于人工智能的数字化招标文件制作和评估系统,针对现有的数字化招标缺少智能化制作招标文件功能的系统,不能快速的生成招标文件模版,且招标文件模版过于单一化的问题,本方案使用deer方法对bert模型进行微调优化,对不同招标文件的内容和格式进行学习,根据需求快速、准确的生成不同类型的招标文件模版;针对数字化招标中缺少智能评估系统,需要大量的人工对投标的文件进行筛选评估,增加了评估的难度的问题,采用mfmmr-bertsum方法提取投标文件的关键信息,生成简练的摘要文案,并根据历史招标过程中的评估方法生成符合相应招标文件的评估办法,对投标文件进行评估,提供了一个高效、便捷、可靠的数字化招标文件制作和评估系统。

2、本发明提供的基于人工智能的数字化招标文件制作和评估系统,包括招标文件模版生成模块、智能填充模块、定制化模块和投标文件评估模块;

3、所述招标文件模版生成模块使用bert模型对历史招标项目的基本信息和招标需求的模版进行学习训练,生成不同类型的招标文件模版,并使用deer方法对bert模型进行微调优化,历史招标项目的基本信息包括招标单位、联系人信息、招标项目名称、编号、预算金额、招标方式、投标截止时间、开标时间和开标地点,招标需求包括招标范围、招标项目概述、技术规格、技术要求、服务要求、资格要求和评审办法,生成相应的招标文件模板;

4、所述智能填充模块对已生成的招标文件模版进行填充,生成填充后的招标文件,同时,对填充后的招标文件的语义和语法进行检查、修改和完善;

5、所述定制化模块根据实际招标项目进行调整和修改,用户能够对已生成的招标文件进行定制,同时也能够对生成的招标文件进行检查;

6、所述投标文件评估模块根据历史招标过程中的评估方法生成符合相应招标文件的评估办法,采用mfmmr-bertsum方法提取投标文件的关键信息,生成简练的摘要文案,并进行评估,供招标方参考。

7、进一步的,在招标文件模板生成模块,使用bert模型对历史招标项目的基本信息和招标需求进行学习训练,具体包括以下步骤:

8、步骤s1:数据收集,收集历史招标文件和网络上公开的招标文件文本数据;

9、步骤s2:数据预处理,对收集的历史招标文件文本数据进行整理,删除重复,缺失的招标文件文本数据,得到数据预处理后的招标文件文本数据;

10、步骤s3:特征提取,提取数据预处理后的招标文件文本数据的关键特征,包括招标文件的基本信息和招标需求,得到特征提取后的招标文件文本数据;

11、步骤s4:建立数据集,将特征提取后的招标文件文本数据建立数据集,并将数据集的80%作为训练集,20%为验证集;

12、步骤s5:模型设计与搭建,搭建bert模型,参数包含12层编码器层,其中12层为多头自注意力层,嵌入尺寸为768,前馈层维数为3072,多头自注意力层包括query向量、key向量和value向量;

13、步骤s6:模型训练,使用训练集对bert模型进行训练,直到bert模型的损失函数收敛;

14、步骤s7:模型验证,使用验证集对bert模型进行验证,并使用准确率、精确率、召回率、f1值对bert模型进行评价;

15、步骤s8:模型优化,使用deer方法对bert模型进行调整优化;

16、进一步的,在步骤s8中,使用deer方法对bert模型进行调整优化,具体包括以下步骤:

17、步骤s81:生成单步ctc,bert模型包括堆叠的双向变压器编码器块,其中每个块包含两个子层,分别是多头自注意力层和全连接前馈层,对这两层使用单步ctc方法进行处理,所用公式如下所示:

18、;

19、;

20、其中,为第个编码器块,为编码器第层的输出,表示第处理的结果,为多头自注意力层函数,为全连接前馈层函数;

21、步骤s82:使用潜在对齐模型进行训练,利用特定的输入格式和自注意掩码来控制上下文信息,将训练集中的源句子序列和伪目标句子序列结合作为输入,在源句子长度与目标相近时,构建一个特定的注意掩码,使关注,而不能关注,之后,通过潜在对齐模型来计算目标和ctc的损失函数的对数似然,所用公式如下:

22、;

23、;

24、其中,为输入的源句子序列,是与对应的实际的目标句子序列,表示给定输入的情况下,生成目标句子序列的概率,为伪目标句子序列,函数表示生成从到的所有可能对齐的集合,为的子集的第个序列,表示在给定的下,观测到的可能性,是计算ctc的损失函数的对数似然值;

25、步骤s83:基于迭代的levenshtein编辑器,使用levenshtein编辑器引入迭代细化机制,该机制与ctc共享参数来纠正文本错误;

26、进一步的,在步骤s83中,使用levenshtein编辑器引入迭代细化机制的方法,包括以下步骤:

27、步骤s831:将目标句子序列作为初始状态通过随机删除中的每个标记进行破坏,通过三个分类器重建原始目标序列,包括占位符分类器、插入分类器和删除分类器;

28、步骤s832:占位符分类器,通过相邻的两个标记来预测插入标记的数量,所用公式如下:

29、;

30、;

31、其中,表示占位符分类器的预测结果,是占位符分类器的操作,为bert模型,为源句子序列的隐藏状态,表示被破坏的目标句子序列,即初始状态,为占位符分类器的损失函数,为交叉熵计算,为占位符目标标签;

32、步骤s833:插入分类器,将占位符添加到中作为插入分类器的输入,预测每个占位符所需的缺失标记,所用公式如下:

33、;

34、;

35、其中,为插入分类器的预测结果,为插入分类器的输入,它是带有占位符的,是插入分类器的操作,为插入分类器的损失函数;

36、步骤s834:删除分类器,根据前一步结果预测当前标记是否需要保持或删除,所用公式如下:

37、;

38、;

39、其中,表示删除分类器的预测结果,为删除分类器的操作,是删除分类器的损失函数,为删除标签的函数;

40、步骤s84:动态块修剪,为了实现动态计算规模,引入动态块修剪技术,对bert模型进行微调,在每次前向传递过程中都引入分数型权重掩码,从bert模型中选择重要的权重,即,是每个参数的得分,其中,重要性的参数得分能指导动态调整bert模型尺寸,是bert模型的权重,采用直通估计法进行计算,训练时要求为每个多头自注意力层和全连接前馈层设置权重掩码,所用公式如下:

41、;

42、;

43、;

44、;

45、;

46、;

47、其中,是query向量,是key向量,是value向量,表示注意力分数,、和为多头自注意力层的权重参数的得分,和为全连接前馈层的权重参数的得分,、、、和分别是、、、和的权重掩码,为当前层的输出,为下一层的输入,、、、、和都为投影矩阵,为隐藏状态维数,和分别表示不同的激活函数。

48、进一步的,在投标文件评估模块中,所述mfmmr-bertsum方法,具体包括以下步骤:

49、步骤n1:输入表示,输入文本文件,并对输入的文本文件的每个句子使用bertsum模型获取句子特征,在每个句子之前添加cls标签,并在每个句子之后保留sep标签;

50、步骤n2:标记嵌入层,使用标记嵌入层将句子中的每个词语转换为一个向量,在片段嵌入部分,根据句子cls标签的奇偶性,将奇数值或偶数赋给,从而区分多个句子的输入,此外,还使用位置嵌入捕获词序列,修改后,每个cls标签对应的向量就是bertsum模型捕捉到的句子特征;

51、步骤n3:分类层,在使用bertsum模型获取句子特征后,构建分类层对句子特征进行训练,确定句子在文本文件中的重要性,分类层内置线性分类器和transformer分类器,具体包括以下内容:

52、线性分类器:在bertsum输出后,添加一个或多个线性层,应用sigmoid函数得到最终预测值,对于每个句子的分类计算预测值,所用公式如下:

53、;

54、其中,为sigmoid函数,和为权重和偏差,表示来自bertsum的第个cls符号,属于自然数;

55、transformer分类器:transformer是一个基于自注意力机制的框架,在transformer的输出中加入sigmoid函数来实现分类,计算预测值,所用公式如下:

56、;

57、其中,是来自transformer第l层的的矢量;

58、步骤n4:mmr-based组件,在bertsum模型的预测阶段中加入了mmr-based组件在特征提取过程中利用加权组合多特征作为句子特征;

59、进一步的,在步骤n4中,加入mmr-based组件,具体包括以下步骤:

60、步骤n41:使用tf-idf提取特征,将句子中不同关键词的出现频率记录为句子的得分,所用公式如下:

61、;

62、其中,为第个句子的向量表示,为关键词,表示对出现的进行累积计算,计算第个关键词的次数特征;

63、步骤n42:句子位置和数字信息特征,根据句子的位置,确定句子的权重特征,使用的公式如下:

64、;

65、此外,一些包含数字的句子通常含有关键信息,需将其进行区分,所用公式如下:

66、;

67、其中,表示第个句子是否包含数字特征;

68、两个特征取平均值后的值为一个特征,所用公式如下:

69、;

70、步骤n43:计算相似度特征,使用word2vec向量化句子,用文本文件中其他句子的向量的平均值作为文本文件的向量值,计算句子和文本文件之间的相似度特征,所用公式如下:

71、;

72、其中,为计算第个句子的相似度特征,是计算相似度的函数;

73、步骤n44:计算情感特征,通过情感分析计算句子的情感特征,所用公式如下:

74、;

75、其中,为句子的情感特征,表示句子的主观评分;

76、步骤n45:将上述特征的加权组合作为最终的句子得分,并使用抽取摘要任务的mfmmr算法,所用公式如下:

77、;

78、;

79、;

80、其中,、、和是加权系数,为超参数,为文件中待分类的候选句子,代表摘要句子集,为已被选为摘要的句子。

81、采用上述方案本发明取得的有益效果如下:

82、(1)针对现有的数字化招标缺少可以智能化制作招标文件功能的系统,不能快速的生成招标文件模版,且招标文件模版过于单一化的问题,本方案使用deer方法对bert模型进行微调优化,对不同招标文件的内容和格式进行学习,根据需求快速、准确的生成不同类型的招标文件模版,在实际的招标中,不同的招标项目中使用不同的招标文件模版,让招标文件的制作和填写工作更便捷、快速、准确;

83、(2)针对数字化招标中缺少智能评估系统,需要大量的人工对投标的文件进行筛选评估,增加了评估的难度的问题,采用mfmmr-bertsum方法提取投标文件的关键信息,生成简练的摘要文案,并根据历史招标过程中的评估方法生成符合相应招标文件的评估办法对投标文件进行评估,mfmmr-bertsum方法减少了特征提取的时间,使生成的摘要更精确,所用时间更少。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1