数据处理方法、装置、设备及存储介质与流程

本发明涉及数据处理，尤其涉及一种数据处理方法、装置、设备及存储介质。

背景技术：

1、随着信息技术在人们日常生活的广泛应用，传感器和存储技术快速发展，高阶数据分析已经应用到信号处理、计算机视觉和数据挖掘等领域。与此同时，高阶数据缺失的情况也非常普遍，现有的基于张量补全的算法对于对缺失率较高或者规则缺失的高阶数据的恢复效果不佳。

技术实现思路

1、针对现有技术存在的问题，本发明提供一种数据处理方法、装置、设备及存储介质。

2、本发明提供一种数据处理方法，包括：

3、获取待补全的缺失数据，将所述缺失数据按照时间维度折叠成张量，所述张量的维度大于或等于三阶；

4、基于所述张量的schatten p-范数及所述张量的时空平滑约束的核范数，建立第一低秩张量补全模型；

5、基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全。

6、在一些实施例中，所述基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全，包括：

7、将所述第一低秩张量补全模型转换为带约束问题的第二低秩张量补全模型；

8、获取所述第二低秩张量补全模型的约束问题的增广拉格朗日函数；

9、基于交替方向乘子法对所述增广拉格朗日函数进行求解，完成所述缺失数据的补全。

10、在一些实施例中，所述第一低秩张量补全模型包括与所述张量有关的schattenp-范数项及与所述张量有关的时空平滑约束的核范数项及与所述张量有关的指示函数项，所述将所述第一低秩张量补全模型转换为带约束问题的第二低秩张量补全模型，包括：

11、将所述schatten p-范数项等价替换为与第一变量有关的第一约束项，所述时空平滑约束的核范数项等价替换为与第二变量有关的第二约束项及所述指示函数项等价替换为与第三变量有关的第三约束项，得到带约束问题的第二低秩张量补全模型，所述第一变量、所述第二变量及所述第三变量组成的变量块与所述张量呈解耦关系。

12、在一些实施例中，所述基于交替方向乘子法对所述增广拉格朗日函数进行求解，完成所述缺失数据的补全，包括：

13、基于交替方向乘子法更新所述增广拉格朗日函数中的所述第一变量、所述第二变量、所述第三变量及所述张量；

14、基于更新的第一变量、更新的第二变量、更新的第三变量及更新的张量，更新所述增广拉格朗日函数中的拉格朗日乘子，以完成所述缺失数据的补全。

15、在一些实施例中，所述基于交替方向乘子法更新所述增广拉格朗日函数中的所述第一变量、所述第二变量、所述第三变量及所述张量之前，还包括：

16、将所述增广拉格朗日函数中的所述第一变量、所述第二变量、所述第三变量、所述张量及拉格朗日乘子均初始化为0。

17、在一些实施例中，所述基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全，包括：

18、基于交替方向乘子法对所述第一低秩张量补全模型进行求解，得到所述缺失数据对应的补全张量；

19、将所述补全张量转换成与所述缺失数据的数据格式相同的数据，完成所述缺失数据的补全。

20、本发明还提供一种数据处理装置，包括：

21、获取模块，用于获取待补全的缺失数据，将所述缺失数据按照时间维度折叠成张量，所述张量的维度大于或等于三阶；

22、建立模块，用于基于所述张量的schatten p-范数及所述张量的时空平滑约束的核范数，建立第一低秩张量补全模型；

23、补全模块，用于基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全。

24、本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述数据处理方法。

25、本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述数据处理方法。

26、本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述数据处理方法。

27、本发明提供的数据处理方法、装置、设备及存储介质，通过获取待补全的缺失数据，将缺失数据按照时间维度折叠成张量，张量的维度大于或等于三阶；基于所述张量的schatten p-范数及所述张量的时空平滑约束的核范数，建立第一低秩张量补全模型；基于交替方向乘子法对第一低秩张量补全模型进行求解，完成缺失数据的补全，如此采用schatten p-范数进行低秩先验，并结合时空平滑约束的核范数的平滑先验，将待补全的缺失数据的补全问题抽象为第一低秩张量补全模型，通过交替方向乘子法求出上述模型的最优解，从而完成对缺失数据的补全，提高了对缺失率较高或者规则缺失的高阶数据的恢复效果。

技术特征：

1.一种数据处理方法，其特征在于，包括：

2.根据权利要求1所述的数据处理方法，其特征在于，所述基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全，包括：

3.根据权利要求2所述的数据处理方法，其特征在于，所述第一低秩张量补全模型包括与所述张量有关的schatten p-范数项及与所述张量有关的时空平滑约束的核范数项及与所述张量有关的指示函数项，所述将所述第一低秩张量补全模型转换为带约束问题的第二低秩张量补全模型，包括：

4.根据权利要求3所述的数据处理方法，其特征在于，所述基于交替方向乘子法对所述增广拉格朗日函数进行求解，完成所述缺失数据的补全，包括：

5.根据权利要求4所述的数据处理方法，其特征在于，所述基于交替方向乘子法更新所述增广拉格朗日函数中的所述第一变量、所述第二变量、所述第三变量及所述张量之前，还包括：

6.根据权利要求1至5任一项所述的数据处理方法，其特征在于，所述基于交替方向乘子法对所述第一低秩张量补全模型进行求解，完成所述缺失数据的补全，包括：

7.一种数据处理装置，其特征在于，包括：

8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述数据处理方法。

9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述数据处理方法。

10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述数据处理方法。

技术总结
本发明提供一种数据处理方法、装置、设备及存储介质，包括：获取待补全的缺失数据，将缺失数据按照时间维度折叠成张量，张量的维度大于或等于三阶；基于所述张量的schatten p‑范数及所述张量的时空平滑约束的核范数，建立第一低秩张量补全模型；基于交替方向乘子法对第一低秩张量补全模型进行求解，完成缺失数据的补全，如此采用schatten p‑范数进行低秩先验，并结合时空平滑约束的核范数的平滑先验，将待补全的缺失数据的补全问题抽象为第一低秩张量补全模型，通过交替方向乘子法求出上述模型的最优解，从而完成对缺失数据的补全，提高了对缺失率较高或者规则缺失的高阶数据的恢复效果。

技术研发人员：汪哲皞
受保护的技术使用者：中银金融科技有限公司
技术研发日：
技术公布日：2024/1/16