一种基于两阶段注意力机制的软件定义网络流量预测方法

本发明涉及软件定义网络流量预测的，尤其涉及一种基于两阶段注意力机制的软件定义网络流量预测方法。

背景技术：

1、流量预测任务是软件定义网络流量工程的重要环节，该类任务旨在根据网络内流量的历史数据得出未来时间的流量预测结果。流量矩阵是网络流量数据的一种形式，它是一段时间内网络中所有源、目的节点对之间的流量数据，是软件定义网络流量研究中的重要研究对象。准确、及时的流量矩阵预测在避免网络拥塞中起着重要作用。流量矩阵预测研究有两类预测方法：传统线性方法和非线性方法。传统线性方法采用自回归移动平均(arima)等方法通过计算流量时间序列的相关参数来捕获流量数据的线性特征进行流量预测，而非线性方法通常采用长短期记忆网络(lstm)、门控循环单元(gru)等方法根据流量历史信息捕获长期依赖关系进行流量预测。与传统线性方法相比，非线性方法能更好地捕获流量的长期依赖关系、高度动态性等特征，对于不稳定的软件定义网络流量序列能够得到更好的预测结果。

2、非线性流量预测方法中，关键步骤是捕获更多的流量特征。随着流量序列长度的增加，目前很多基于原始lstm、gru的方法逐渐难以解决流量的长期依赖，一个较为有效的方式是使用时间注意力机制(tam)突出历史时间窗口中某些关键流量信息的作用。但这种流量预测任务中时间注意力机制的引入仅仅局限于流内特征，如何合理地捕获更多的流量特征依然有待研究。先前sdn流量预测方法通过引入卷积神经网络(cnn)捕获不同源、目的节点(od)对流量间的关系提升预测效果；也有一些方法将历史时间窗口按不同时间单位划分，同时引入时间注意力机制捕获不同季节性的流内特征。近期，其他领域如金融、环境、能源、医学等时序数据预测任务中都将注意力机制同lstm结合用来提升预测效果，一些工作在编码器—解码器模型中通过采用两阶段注意力机制，即编码阶段lstm前对不同特征引入特征间注意力机制来捕获不同特征之间的相互关系，解码阶段lstm前对编码阶段得到的不同时间步的隐藏状态引入时间注意力机制来捕获同一特征不同时间步之间的相互关系，使得预测方法能够同时捕获更多的特征间和特征内关系，从而实现自适应的特征提取并解决长期依赖关系。因此，对于流量矩阵预测问题，可以参考其他领域的研究方法，在原有时间注意力机制的基础上，引入类似特征间的注意力机制，捕获更多的流间关系，来适应sdn流量的长期依赖性和高度动态性等特性，从而提升预测效果。

技术实现思路

1、本部分的目的在于概述本发明的实施例的一些方面以及简要介绍一些较佳实施例。在本部分以及本技术的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊，而这种简化或省略不能用于限制本发明的范围。

2、鉴于上述现有基于两阶段注意力机制的软件定义网络流量预测方法存在的问题，提出了本发明。

3、因此，本发明目的是提供一种基于两阶段注意力机制的软件定义网络流量预测方法。

4、为解决上述技术问题，本发明提供如下技术方案：对流间自适应特征进行提取；

5、对进行特征提取后的向量，结合编码阶段lstm进行编码；

6、根据特征提取后的向量，结合时间注意力方法捕获流内长期依赖关系，根据捕获的向量，结合解码阶段lstm进行非线性部分的预测；

7、根据特征提取后的向量，结合线性自回归方法进行线性预测；

8、根据非线性部分的预测结果和线性部分预测结果，计算目标od对的流量最终预测结果。

9、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：对流间自适应特征进行提取包括，

10、根据原流量矩阵的时间序列数据结合时间模式注意力方法进行流间自适应特征提取，将所述原流量矩阵的时间序列{xt-1，xt-2，...，xt-t}作为原始lstm的输入，获取当前时间步的隐藏状态向量ht-1；

11、对每个时间步的隐藏状态向量应用时间模式注意力机制中的第i个cnn过滤器ci，得到每个隐藏状态的时间模式和第i个时间模式的时间模式注意力权重并计算t时间段内带权的隐藏时间模式向量公式如下：

12、

13、其中，所述时间模式注意力权重表示第i个所述cnn过滤器ci的隐藏状态的时间模式向量的重要程度。

14、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：所述编码步骤包括，

15、对流间自适应特征进行提取，获得注意力权重和时间模式向量计算带权的隐藏状态时间模式向量

16、将前一时间编码阶段的隐藏状态和上述带权隐藏状态的时间模式向量作为编码阶段lstm的输入，获取当前时间编码阶段的隐藏状态

17、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：根据所述前一时间编码阶段的隐藏状态和先前时间步解码阶段的隐藏状态计算隐藏状态的流内注意力权重作为第u个隐藏状态的重要程度。

18、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：所述时间注意力权重计算公式如下：

19、

20、

21、其中，为解码阶段的隐藏状态，t转置计算符号，wd为训练参数，为先前时间步解码阶段的隐藏状态，为不同时间步编码阶段的隐藏状态，bd为偏置项，所述时间注意力权重表示解码阶段第u个隐藏状态的重要程度。

22、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：所述解码阶段包括，

23、根据捕获流内长期依赖关系后得到的所述注意力权重和编码阶段的隐藏状态向量计算上下文向量vt，公式如下：

24、

25、将选取的预测目标od对的前一时间段流量和所述上下文向量vt作为解码阶段lstm的输入，得到非线性部分预测结果

26、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：所述非线性部分预测结果公式如下：

27、

28、其中，为解码阶段隐藏状态，wn为训练参数，bn为偏置项。

29、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：根据特征提取后的向量，结合线性自回归方法进行线性预测包括，

30、提取后的向量包括所述原流量矩阵中目标od对的历史流量大小，

31、根据指定的自回归阶数tl和对应数量的先前目标od对流量数据，结合线性自回归方法计算线性部分预测结果计算公式如下：

32、

33、其中，和均为训练参数。

34、作为本发明所述基于两阶段注意力机制的软件定义网络流量预测方法的一种优选方案，其中：所述获得目标od对预测结果包括，

35、根据所述非线性部分预测结果和所述线性部分预测结果采用加权求和方法计算最终预测结果

36、所述最终预测结果计算公式如下：

37、

38、其中，和均为训练参数。

39、一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法的步骤。

40、本发明的有益效果：在应对高度动态的sdn流量变化时有较大优势，其中，流间注意力机制能够实现自适应特征提取，流内注意力机制能够捕获长期依赖关系，线性自回归模块能够使预测方法在高度动态的sdn流量出现局部极端变化的情况下仍有较好的效果。