通过交互进行上下文中学习的制作方法

文档序号:43765185发布日期:2025-11-15 00:31阅读:65来源:国知局


背景技术:

1、用于装置之间的交互的交互数据(例如,数据访问请求、交易等)可以具有许多不同的特征,并且可以基于交互类型包括不同的数据。可以基于所述特征使用不同的机器学习模型来进行预测以使交互过程更高效。可以针对每种不同类型的交互训练不同的机器学习模型。

2、为了提高所有不同的机器学习模型的性能,通常利用更多的数据并且使模型更大。这在各个领域都取得了成功,尤其是在具有大型语言模型(llm)的自然语言处理方面。

3、然而,由于所使用的交互数据,更多的数据和更大的模型可能不会提高模型性能,因为预测任意数字是不现实的。简单地使用更多的数据和更大的模型可能不会提高交互数据的预测性能。进一步地,即使模型经过预训练,自然语言模型的当前使用也需要许多微调和许多训练头来执行不同的任务。

4、本公开的实施例单独地或共同地解决了这一问题和其它问题。


技术实现思路

1、一个实施例涉及一种方法,所述方法包括计算机获得用于当前交互的交互数据和聚合数据。所述当前交互涉及请求访问资源的装置。计算机可以使用交互数据和聚合数据来生成特征向量。然后,计算机可以生成包含一组特征-标签对的提示。每组特征-标签对可以包括任务特定标签和另外的特征向量。另外的特征向量可以包括另外的交互数据和另外的聚合数据。所述另外的交互数据和所述另外的聚合数据与同所述当前交互具有相同分类类型的另外的交互相关。计算机可以将预训练的机器学习模型加载到存储器中,所述预训练的机器学习模型被训练成确定对特定任务的预测。计算机可以将提示和包括特征向量的查询输入到预训练的机器学习模型中。然后,计算机可以使用预训练的机器学习模型来确定针对查询和提示的任务特定预测。任务特定预测可以指定对当前交互的响应状态。

2、在一些实施例中,计算机可以使用特征向量来生成查询。

3、在一些实施例中,计算机可以获得多个历史交互的多个历史交互数据、多个历史聚合数据和多个历史任务特定标签。计算机可以使用多个历史交互数据、多个历史聚合数据和多个历史任务特定标签来生成多个历史特征向量。然后,计算机可以使用多个历史特征向量来生成历史提示和历史查询。计算机可以使用历史提示和历史查询来训练预训练的机器学习模型。

4、在一些实施例中,交互数据包括对多种交互类型中的某种交互类型的指示。使用交互数据和聚合数据生成特征向量可以包括以下步骤。计算机可以生成特征向量的交互数据部分。交互数据部分包括多个交互类型条目。计算机可以将多个交互类型条目中对应于所述交互类型的交互类型条目的值设置为交互数据的值。计算机可以将多个交互类型条目中不对应于所述交互类型的其它交互类型条目的值设置为默认值。

5、另一实施例涉及一种计算机,所述计算机包含处理器和耦合到处理器的计算机可读介质。计算机可读介质包含代码,所述代码可由处理器执行以实施本文中的任何方法。

6、另一实施例涉及一种系统,所述系统包含存储多个交互数据和多个聚合数据的交互数据库,以及与交互数据库通信的评估计算机。评估计算机包括处理器、存储器和耦合到处理器的计算机可读介质。计算机可读介质包含代码,所述代码可由处理器执行以实施本文中的任何方法。

7、有关本公开的实施例的更多详细信息可见于具体实施方式和附图。



技术特征:

1.一种方法,其包含:

2.根据权利要求1所述的方法,其中所述预训练的机器学习模型包含神经网络模型。

3.根据权利要求1所述的方法,其进一步包含:

4.根据权利要求1所述的方法,其进一步包含:

5.根据权利要求1所述的方法,其中所述预训练的机器学习模型包括多个交互编码器、多个任务特定标签编码器和多个混合器编码器。

6.根据权利要求5所述的方法,其中所述多个混合器编码器中的每个混合器编码器组合由所述多个交互编码器的子集和所述多个任务特定标签编码器的子集创建的编码。

7.根据权利要求5所述的方法,其中确定所述任务特定预测包含:

8.根据权利要求7所述的方法,其进一步包含:

9.根据权利要求8所述的方法,其中所述当前任务由所述一组特征-标签对中的每个特征-标签对的所述任务特定标签指示。

10.根据权利要求1所述的方法,其中所述响应状态为经授权或未经授权的。

11.根据权利要求1所述的方法,其中所述交互数据包括对多种交互类型中的交互类型的指示。

12.根据权利要求1所述的方法,其中所述聚合数据包括聚合账户数据和聚合资源提供商数据。

13.根据权利要求1所述的方法,其中所述交互数据包括对多种交互类型中的交互类型的指示,其中使用所述交互数据和所述聚合数据生成所述特征向量包含:

14.根据权利要求1所述的方法,其中所述预训练的机器学习模型包括多个交互编码器、多个任务特定标签编码器和多个混合器编码器,其中所述多个混合器编码器中的混合器编码器的数量与所述一组特征-标签对中的特征-标签对的数量相同。

15.根据权利要求1所述的方法,其中所述方法进一步包含:

16.根据权利要求1所述的方法,其中所述当前交互属于授权交互的分类,并且其中所述另外的交互属于所述授权交互的分类。

17.根据权利要求1所述的方法,其中获得用于所述当前交互的所述交互数据和所述聚合数据包含:

18.根据权利要求1所述的方法,其中在确定所述任务特定预测之后,所述方法进一步包含:

19.一种计算机产品,其包含计算机可读介质,所述计算机可读介质存储用于控制计算机系统执行上述方法中的任何方法的操作的多个指令。

20.一种系统,其包含:


技术总结
计算机获得用于当前交互的交互数据和聚合数据。所述当前交互涉及请求访问资源的装置。所述计算机使用所述交互数据和所述聚合数据来生成特征向量,并且生成包含一组特征‑标签对的提示。每个特征‑标签对包含任务特定标签和另外的特征向量,所述另外的特征向量包括另外的交互数据和另外的聚合数据。所述另外的交互数据和所述另外的聚合数据与同所述当前交互具有相同分类类型的另外的交互相关。所述计算机加载预训练的机器学习模型,所述预训练的机器学习模型被训练成确定对特定任务的预测。所述计算机将所述提示和包括所述特征向量的查询输入到所述预训练的机器学习模型中。所述计算机确定针对所述查询和所述提示的任务特定预测,所述任务特定预测指定对所述当前交互的响应状态。

技术研发人员:丁俊成,王晟,王丹
受保护的技术使用者:维萨国际服务协会
技术研发日:
技术公布日:2025/11/14
网友询问留言 已有1条留言
  • 访客 来自[中国] 2025年11月17日 15:43
    突然复活让他换个
    0
1