基于多线性自回归模型的时间序列分析方法与流程

技术特征：

1.一种基于多线性自回归模型的时间序列分析方法，包括，其特征在于，

1)将时间序列编码为张量；

2)将最初的张量变换为一个维度减少的形式；

3)对获得的维度减少形式的张量应用自回归模型去保持时域上的连续性；

4)动态学习步骤2)～3)更新结果直到算法收敛，结果达到最优。

2.根据权利要求1所述的基于多线性自回归模型的时间序列分析方法，其特征在于，步骤1)包括：将N+1维的时间序列X，表示为一个N+1阶的张量形式其中I₁,I₂,…,I_N表示时间序列中除时间维度外的其他维度，T表示时间序列的时间维度，用X_t表示X的第t个时间切片。

3.根据权利要求1所述的基于多线性自回归模型的时间序列分析方法，其特征在于，步骤2)包括：利用张量Tucker分解去提取最初的时间序列中潜在的变量或者成分用于捕获时间序列最显著的特征并移除数据中的冗余信息，具体是寻找N个映射矩阵去建立潜在张量Y的第t个时间切片Y_t和时间序列X第t个时间切片X_t之间的联系，形式如下：

$\begin{array}{c}{Y}_t=X_t\×{{}_{1}U}_1\×{{}_{2}U}_2\×...\×{{}_{N}U}_N\\ =X_t\underset{i=1}{\overset{N}{\Π}}\×{{}_{i}U}_i\end{array}---\left(1\right).$

4.根据权利要求1所述的基于多线性自回归模型的时间序列分析方法，其特征在于，步骤3)包括：

(1)对潜在张量Y的时域依赖性进行建模，引入m阶自回归模型AR(m)去保存潜在张量Y的时间连续性：

$\begin{array}{c}{Y}_t=\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{a}_k{Y}_{t-k}+{\mathrm{\ϵ}}_t\\ =\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{a}_k{X}_{t-k}\×{{}_{1}U}_1\×{{}_{2}U}_2\×\mathrm{...}\×{{}_{N}U}_N+{\mathrm{\ϵ}}_t\\ =\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{a}_k{X}_{t-k}\underset{i=1}{\overset{N}{\mathrm{\Π}}}\×{{}_{i}U}_i+{\mathrm{\ϵ}}_t\end{array}---\left(2\right)$

其中ε_t是高斯白噪声满足ε_t～N(0,Σ_t)，N为高斯分布，Σ_t是白噪声的协方差张量满足Σ_t＝Var(ε_t)，Var表示方差形式，是自回归模型的模型参数；

(2)基于m阶自回归模型函数得到以下的噪音协方差张量表达式：

$\begin{array}{c}{\mathrm{\ϵ}}_t=Y_t-\underset{k=1}{\overset{m}{\Σ}}{a}_k{Y}_{t-k}\\ =\left(X_t-\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{a}_k{X}_{t-k}\right)\underset{i=1}{\overset{N}{\mathrm{\Π}}}\×{{}_{i}U}_i\end{array}---\left(3\right)$

(3)采用最大似然估计法去估计自回归模型的模型参数得到基于噪音协方差张量的Yule-Waler方程：

$\underset{k=1}{\overset{m}{\Σ}}{a}_k(\underset{t=1}{\overset{T}{\Σ}}\<Y_{t-k},Y_{t-l}\>)=\underset{t=1}{\overset{T}{\Σ}}\<Y_t,Y_{t-l}\>---\left(4\right)$

(4)通过利用自回归模型去最大化真实观测值与预测值之间的协方差相关性，得到以下的目标函数：

$\begin{array}{c}\underset{\{U_1,U_2,...,U_N\}}{max}\underset{t=2}{\overset{T}{\Σ}}Cov\left(Y_t\right|Y_{t-1},Y_{t-2},...,Y_{t-m})\\ s.t.U_i{U}_i^T=E,i=1,\mathrm{...},N\end{array}---\left(5\right)$

该式中Cov(Y_t|·)测量真实潜在张量与预测潜在张量之间的条件协方差相关性，为了尽可能多的保存信息并控制未知变量的尺度，是目标函数的正交性限制条件。

(5)只要估计出了自回归模型的模型参数噪音协方差张量的累积范数由下式计算得出：

$\underset{t=2}{\overset{T}{\Σ}}\left|\right|{\mathrm{\ϵ}}_t|{|}_F^2=\underset{t=2}{\overset{T}{\Σ}}||(X_t-\underset{k=1}{\overset{m}{\Σ}}{a}_k{X}_{t-k})\underset{i=1}{\overset{N}{\Π}}\×{{}_{i}U}_i|{|}_F^2---\left(6\right)$

(6)用噪音协方差张量的累积范数代替目标函数，最优化的问题转化为如下形式：

$\begin{array}{c}\underset{\left\{U_i\right\},\left\{a_k\right\}}{\min }\underset{t=2}{\overset{T}{\mathrm{\Σ}}}\left|\right|\left(X_t-\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{a}_k{X}_{t-k}\right)\underset{i=1}{\overset{N}{\mathrm{\Π}}}\×{{}_{i}U}_i|{|}_F^2\\ s.t.U_i{U}_i^T=E,i=1,\mathrm{...},N\end{array}---\left(7\right)$

(7)求解目标函数：

令则的等价形式表示为：

$\begin{array}{c}\underset{t=2}{\overset{T}{\mathrm{\Σ}}}\left|\right|{\mathrm{\ϵ}}_t|{|}_F^2=\underset{t=2}{\overset{T}{\mathrm{\Σ}}}||{\widetilde{\mathrm{\ϵ}}}_t\underset{i=1}{\overset{N}{\mathrm{\Π}}}\×{{}_{i}U}_i|{|}_F^2\\ =\underset{t=2}{\overset{T}{\mathrm{\Σ}}}\left|\right|U_n{\left({\widetilde{\mathrm{\ϵ}}}_t\×{}_{\left(-n\right)}\left\{U\right\}\right)}_{\left(n\right)}|{|}_F^2\\ =tr\left(U_n\left(\underset{t=2}{\overset{T}{\mathrm{\Σ}}}{F}_n^t{F}_n^{t^T}\right)U_n^T\right)\end{array}---\left(8\right)$

该式中

用拉格朗日乘子法和特征值分解法去最小化所述的目标函数，引入交替下降算法首先固定U₂,U₃,…U_N，得到：

$\underset{t=2}{\overset{T}{\Σ}}\left|\right|{\widetilde{\mathrm{\ϵ}}}_t\underset{i=1}{\overset{N}{\Π}}\×{{}_{i}U}_i|{|}_F^2=tr\left(U_1\right(\underset{t=2}{\overset{T}{\Σ}}{F}_1^t{F}_1^{t^T}\left)U_1^T\right)---\left(9\right)$

该目标函数相对于映射矩阵U₁的偏导数由下式计算得出：

$\underset{t=2}{\overset{T}{\Σ}}{F}_1^t{F}_1^{tT}{u}_{1j}^T={\mathrm{\λ}}_{1j}{u}_{1j}^T---\left(10\right)$

在式中u_1j是矩阵的广义特征向量，λ_1j是相应的特征值；

同样，固定映射矩阵U₁,…,U_i-1…U_i+1…U_N，得到目标函数关于映射矩阵U_i的偏导数：

$\underset{t=2}{\overset{T}{\Σ}}{F}_i^t{F}_i^{tT}{u}_{ij}^T={\mathrm{\λ}}_{ij}{u}_{ij}^T---\left(11\right)$

在该式中u_ij是矩阵的广义特征向量，λ_ij是相应的特征值。

5.根据权利要求1所述的基于多线性自回归模型的时间序列分析方法，其特征在于，步骤4)具体是在最后将步骤2)和步骤3)整合到一个动态学习框架中使步骤2)和步骤3)的学习过程随着时间进行更新，直到结果达到最优。