技术总结
本说明书实施例提供一种用于文本分析的模型训练方法、文本分类方法和装置，方法包括：首先利用第一双向转换器模型，针对第一训练语句中的每个词，基于该词的初始词向量，以及该词的上文信息，得到该词对应的正向向量；接着利用第一双向转换器模型，针对第一训练语句中的每个词，基于该词的初始词向量，以及该词的下文信息，得到该词对应的反向向量；然后根据第一训练语句中的每个词的位置，将该位置的前一个词的正向向量和该位置的后一个词的反向向量拼接起来，作为该位置对应的目标词向量；再利用第一语言模型，针对每个位置对应的目标词向量，对第一双向转换器模型和第一语言模型进行训练，从而既运行速度快，又能保证模型的鲁棒性。
技术研发人员：蒋亮;张家兴;温祖杰;梁忠平
受保护的技术使用者：阿里巴巴集团控股有限公司
技术研发日：2019.03.08
技术公布日：2019.07.23