模型训练方法、装置、电子设备及介质与流程

本申请属于人工智能领域，具体涉及一种模型训练方法、装置、电子设备及介质。

背景技术：

1、人工智能(artificial intelligence，ai)神经网络技术广泛应用于音频降噪、音频切分、语音识别及语音合成等音频处理领域，相比传统的音频信号处理方法，ai神经网络技术针对不同类型音频及不同处理任务都有着非常好的处理效果。

2、但ai神经网络技术中所采用的神经网络模型通常占用的资源存储空间和计算复杂度很高，相应功耗也会增加，在一般的边缘、移动手持设备中上更加青睐复杂度不高、占用存储空间低的小模型，但对于小模型而言，其音频处理性能通常较低。

3、相关技术中，主要有两种提升模型性能的研究方向，一是从模型拓扑结构上进行改进优化，通过引入卷积、编码器、解码器等结构提升模型性能，但这种方式额外了增加模型的复杂度和存储资源，使得模型的实际部署更加困难；二是对损失函数优化以提升模型性能，损失函数优化过程复杂，需要花费大量人工对相关参数进行调优，效率低且模型性能的提升效果有限。

技术实现思路

1、本申请实施例的目的是提供一种模型训练方法、装置、电子设备及介质，能够解决如何在不增加模型复杂度和存储资源的同时，提升模型性能的问题。

2、第一方面，本申请实施例提供了一种模型训练方法，该方法包括：

3、将第一音频输入至第一神经网络模型，得到所述第一神经网络模型输出的第二音频；

4、将所述第二音频输入至第二神经网络模型，得到所述第二神经网络模型输出的第三音频；

5、基于所述第一音频对应的标签和所述第二音频确定第一损失函数，基于所述第一音频对应的标签和所述第三音频确定第二损失函数；

6、基于所述第一损失函数和所述第二损失函数，更新所述第一神经网络模型。

7、第二方面，本申请实施例提供了一种模型训练装置，该装置包括：

8、第一处理模块，用于将第一音频输入至第一神经网络模型，得到所述第一神经网络模型输出的第二音频；

9、第二处理模块，用于将所述第二音频输入至第二神经网络模型，得到所述第二神经网络模型输出的第三音频；

10、第三处理模块，用于基于所述第一音频对应的标签和所述第二音频确定第一损失函数，基于所述第一音频对应的标签和所述第三音频确定第二损失函数；

11、第四处理模块，用于基于所述第一损失函数和所述第二损失函数，更新所述第一神经网络模型。

12、第三方面，本申请实施例提供了一种电子设备，该电子设备包括处理器和存储器，所述存储器存储可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。

13、第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。

14、第五方面，本申请实施例提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的方法。

15、第六方面，本申请实施例提供一种计算机程序产品，该程序产品被存储在存储介质中，该程序产品被至少一个处理器执行以实现如第一方面所述的方法。

16、在本申请实施例中，通过第二神经网络模型学习第一神经网络模型的预测结果与标签之间的预测误差，通过第二损失函数反向传播将该预测误差反馈给第一神经网络模型，显著提高第一神经网络模型的性能，且第二神经网络模型只在训练过程中应用，避免增加模型复杂度，节省第一神经网络模型的存储资源开销，便于第一神经网络模型的部署。

技术特征：

1.一种模型训练方法，其特征在于，包括：

2.根据权利要求1所述的模型训练方法，其特征在于，基于所述第二损失函数，更新所述第一神经网络模型，包括：

3.根据权利要求1所述的模型训练方法，其特征在于，所述将第一音频输入至第一神经网络模型，得到所述第一神经网络模型输出的第二音频，包括：

4.根据权利要求1所述的模型训练方法，其特征在于，所述将第一音频输入至第一神经网络模型，得到所述第一神经网络模型输出的第二音频，包括：

5.根据权利要求1-4任一项所述的模型训练方法，其特征在于，所述更新所述第一神经网络模型之前，所述方法还包括：

6.根据权利要求5所述的模型训练方法，其特征在于，所述基于所述第一损失函数、所述第二损失函数和所述第三损失函数，更新所述第一神经网络模型，包括：

7.根据权利要求5所述的模型训练方法，其特征在于，基于所述第三损失函数，更新所述第一神经网络模型，包括：

8.根据权利要求5所述的模型训练方法，其特征在于，基于所述第三损失函数，更新所述第一神经网络模型，包括：

9.一种模型训练装置，其特征在于，包括：

10.根据权利要求9所述的模型训练装置，其特征在于，所述第四处理模块用于：

11.根据权利要求9或10所述的模型训练装置，其特征在于，所述第三处理模块还用于：

12.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如权利要求1-8任一项所述的模型训练方法的步骤。

13.一种可读存储介质，其特征在于，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如权利要求1-8任一项所述的模型训练方法的步骤。

技术总结
本申请公开了一种模型训练方法、装置、电子设备及介质，属于人工智能领域。该模型训练方法，包括：将第一音频输入至第一神经网络模型，得到所述第一神经网络模型输出的第二音频；将所述第二音频输入至第二神经网络模型，得到所述第二神经网络模型输出的第三音频；基于所述第一音频对应的标签和所述第二音频确定第一损失函数，基于所述第一音频对应的标签和所述第三音频确定第二损失函数；基于所述第一损失函数和所述第二损失函数，更新所述第一神经网络模型。

技术研发人员：许超,刘良兵,王少华
受保护的技术使用者：维沃移动通信有限公司
技术研发日：
技术公布日：2024/1/13