基于类比提示的增量学习方法、装置、设备及存储介质

本技术涉及人工智能，尤其涉及一种基于类比提示的增量学习方法、装置、设备及存储介质。

背景技术：

1、增量学习是一种机器学习方法，旨在让模型不断学习新数据的同时，不忘记之前学过的知识，然而，增量学习一直面临着“灾难性遗忘”的问题，在使用新数据更新模型后，由于神经网络会根据当前输入来调整权重，导致以前学到的知识被覆盖或丢失，因此模型对先前数据的拟合能力会急剧下降。

2、在相关技术中，通过重放法的方式来保存模型的历史数据，进而，防止模型忘记之前学到的知识，此方法能够有效防止模型遗忘之前学到的知识，然而，存储大量历史数据会带来高昂的存储成本。

技术实现思路

1、本技术的主要目的在于提供一种基于类比提示的增量学习方法、装置、设备及存储介质，旨在解决相关技术中，通过存储大量历史数据来防止模型忘记之前学到的知识，导致模型的存储成本较高的技术问题。

2、为实现上述目的，本技术实施例提供了一种基于类比提示的增量学习方法，所述方法包括：

3、获取待分类数据集，其中，所述待分类数据集包括训练集数据和测试集数据；

4、基于所述训练集数据中当前任务数据与历史任务数据，计算得到对应历史任务数据中每个类别的类比参数，并将所述类比参数和所述当前任务数据相结合，得到类比样本数据；

5、基于所述当前任务数据，对预设分类模型进行微调，得到微调后的预设分类模型，并基于所述类比样本数据和所述微调的预设分类模型，消除所述历史任务数据的聚类中心产生的偏移，得到无偏移的聚类中心数据；

6、基于所述微调后的预设分类模型和所述聚类中心数据，对所述测试集数据进行分类，得到分类数据。

7、在本技术的一种可能的实施方式中，所述基于所述训练集数据中当前任务数据与历史任务数据，计算得到对应历史任务数据中每个类别的类比参数的步骤，包括：

8、采样所述当前任务数据中与历史任务数据的每个类的聚类中心距离最近的数据子集；

9、基于所述数据子集和第一预设目标函数，计算得到对应历史任务数据中每个类的类比参数。

10、在本技术的一种可能的实施方式中，所述基于所述数据子集和第一预设目标函数，计算得到对应历史任务数据中每个类的类比参数的步骤，包括：

11、将所述数据子集输入所述第一预设目标函数；

12、基于所述第一预设目标函数，对所述数据子集进行训练，得到对应历史任务数据中每个类的类比参数；

13、其中，所述第一预设目标函数表示为

14、其中，lcc表示类别转换损失，lpp表示聚类中心推近损失，lde表示激励多样性损失，表示输入的数据子集。

15、在本技术的一种可能的实施方式中，所述微调后的预设分类模型基于所述测试集数据中每个数据类别的多个聚类中心对所述测试集数据进行分类，使得不同类别数据之间的特征分布区分明显。

16、在本技术的一种可能的实施方式中，所述基于所述当前任务数据，对预设分类模型进行微调，得到微调后的预设分类模型的步骤，包括：

17、基于所述当前任务数据，训练预设分类模型的第二预设目标函数，得到微调后的预设分类模型；

18、其中，所述第二预设目标函数表示为：lft＝lc+lsc.；

19、其中，lc表示当前任务上的交叉熵损失，lsc表示偏移一致性损失。

20、在本技术的一种可能的实施方式中，所述基于所述类比样本数据和所述微调的预设分类模型，消除所述历史任务数据的聚类中心产生的偏移，得到无偏移的聚类中心数据的步骤，包括：

21、基于微调后的预设分类模型，对所述类比特征数据与历史任务数据进行实例转换，确定历史任务数据的聚类中心所产生的偏移值；

22、将所述历史任务数据的聚类中心值与所述偏移值相加，得到无偏移的聚类中心数据。

23、在本技术的一种可能的实施方式中，所述基于所述微调后的预设分类模型和所述聚类中心数据，对所述测试集数据进行分类，得到分类数据的步骤，包括：

24、基于所述微调后的预设分类模型，提取所述测试数据集的第一数据特征；

25、将所述第一数据特征与所述聚类中心数据输入至分类层，计算得到分值最高的第一数据类别以及所述第一数据类别对应的分类数据。

26、本技术还提供一种基于类比提示的增量学习装置，所述基于类比提示的增量学习装置还包括：

27、获取模块，用于获取待分类数据集，其中，所述待分类数据集包括训练集数据和测试集数据；

28、结合模块，用于基于所述训练集数据中当前任务数据与历史任务数据，计算得到对应历史任务数据中每个类别的类比参数，并将所述类比参数和所述当前任务数据相结合，得到类比样本数据；

29、消除模块，用于基于所述当前任务数据，对预设分类模型进行微调，得到微调后的预设分类模型，并基于所述类比样本数据和所述微调的预设分类模型，消除所述历史任务数据的聚类中心产生的偏移，得到无偏移的聚类中心数据；

30、分类模块，用于基于所述微调后的预设分类模型和所述聚类中心数据，对所述测试集数据进行分类，得到分类数据。

31、本技术还提供一种基于类比提示的增量学习设备，所述基于类比提示的增量学习设备为实体节点设备，所述基于类比提示的增量学习设备包括：存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述基于类比提示的增量学习方法的程序，所述基于类比提示的增量学习方法的程序被处理器执行时可实现如上述所述基于类比提示的增量学习方法的步骤。

32、为实现上述目的，还提供一种存储介质，所述存储介质上存储有基于类比提示的增量学习程序，所述基于类比提示的增量学习程序被处理器执行时实现上述任一所述的基于类比提示的增量学习方法的步骤。

33、本技术提供了一种基于类比提示的增量学习方法、装置、设备及存储介质，与相关技术中，通过存储大量历史数据来防止模型忘记之前学到的知识，导致模型的存储成本较高相比，在本技术中，获取待分类数据集，其中，所述待分类数据集包括训练集数据和测试集数据；基于所述训练集数据中当前任务数据与历史任务数据，计算得到对应历史任务数据中每个类别的类比参数，并将所述类比参数和所述当前任务数据相结合，得到类比样本数据；基于所述当前任务数据，对预设分类模型进行微调，得到微调后的预设分类模型，并基于所述类比样本数据和所述微调的预设分类模型，消除所述历史任务数据的聚类中心产生的偏移，得到无偏移的聚类中心数据；基于所述微调后的预设分类模型和所述聚类中心数据，对所述测试集数据进行分类，得到分类数据。在本技术中，根据获取的训练集数据，对预设分类模型进行训练，使用类比提示的方法从历史训练数据中提取类比参数，并将类比参数与当前任务数据进行结合，从而得到包含历史任务数据所对应的特征的类比样本数据，再通过类比样本数据来消除历史任务数据的聚类中心所产生的的偏移，得到相对应的无偏移的聚类中心数据，通过当前任务数据，对预设分类模型进行微调，从而得到微调后的新模型，进而，根据无偏移的聚类中心数据和微调后的模型，即可为测试集数据进行分类，不需要保存历史数据，而是从历史数据中提取类比参数，并将类比参数和当前任务数据相结合，以类比样本数据来消除历史任务数据所对应聚类中心的偏移，防止模型遗忘之前所学到知识的同时，也降低了模型的存储成本。