一种用于多数据源的流式数据处理方法及装置与流程

文档序号:12729480阅读:来源:国知局

技术特征:

1.一种用于多数据源的流式数据处理方法,其特征在于,包括如下步骤:

当数据到达传输管道的接入点时,获取所述数据包括的消息头和消息体,所述消息头包含所述消息体的特征信息,所述数据来自多个数据源中的任一数据源;

在所述消息头的指示下对所述数据进行传输和处理,以将所述数据经由所述传输管道的出口点传输至目的点,所述目的点根据所述消息头确定;

其中,所述数据在所述传输管道内的传输路径根据所述消息头或者消息体确定。

2.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,所述目的点包括:使用和/或存储所述数据的终端。

3.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:

根据所述消息体与预设标准的比较结果,确定所述数据在所述传输管道内的传输路径,以将符合所述预设标准的数据经由所述传输路径传输至所述出口点。

4.根据权利要求3所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理还包括:

若所述消息体不符合所述预设标准,则将所述数据从所述传输管道中移除,或者将所述传输管道的出口点修正为错误数据传输管道的接入点。

5.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:

根据所述消息体确定所述目的点是否需要更改;

若所述目的点需要更改,则根据更改后的目的点确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径传输至所述出口点。

6.根据权利要求5所述的用于多数据源的流式数据处理方法,其特征在于,根据所述消息体确定所述目的点是否需要更改包括:

根据所述消息体判断所述消息头是否需要更改;

当判断结果表明所述消息头需要更改时,将所述消息头更改为与所述消息体相对应的消息头,并确定所述目的点需要更改。

7.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:

根据所述消息头确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径传输至所述出口点。

8.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:

根据所述消息体的类型确定是否需要将所述数据分解为至少两个子数据,所述子数据也包括消息头和消息体;

当确定需要将所述数据分解为至少两个子数据时,根据每一子数据的特征信息确定对应的消息头;

针对每一子数据,根据所述子数据的消息头确定对应的目的点,并确定所述子数据在所述传输管道内的传输路径,以将所述子数据经由所述传输路径传输至所述出口点。

9.一种用于多数据源的流式数据处理装置,其特征在于,包括:

获取模块,当数据到达传输管道的接入点时,获取所述数据包括的消息头和消息体,所述消息头包含所述消息体的特征信息,所述数据来自多个数据源中的任一数据源;

处理模块,用于在所述消息头的指示下对所述数据进行传输和处理,以将所述数据经由所述传输管道的出口点传输至目的点,所述目的点根据所述消息头确定;

其中,所述数据在所述传输管道内的传输路径根据所述消息头或者消息体确定。

10.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述目的点包括:使用和/或存储所述数据的终端。

11.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述处理模块包括:

过滤器节点,所述过滤器节点用于根据所述消息体与预设标准的比较结果,确定所述数据在所述传输管道内的传输路径,以将符合所述预设标准的数据经由所述传输路径从所述过滤器节点传输至所述出口点。

12.根据权利要求11所述的用于多数据源的流式数据处理装置,其特征在于,若所述消息体不符合所述预设标准,则所述过滤器节点将所述数据从所述传输管道中移除,或者将所述传输管道的出口点修正为错误数据传输管道的接入点。

13.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述处理模块包括:

转换器节点,所述转换器节点用于根据所述消息体确定所述目的点是否需要更改;

若所述目的点需要更改,则所述转换器节点根据更改后的目的点确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径从所述转换器节点传输至所述出口点。

14.根据权利要求13所述的用于多数据源的流式数据处理装置,其特征在于,所述转换器节点包括:

判断单元,用于根据所述消息体判断所述消息头是否需要更改;

更改单元,当判断结果表明所述消息头需要更改时,将所述消息头更改为与所述消息体相对应的消息头,并确定所述目的点需要更改。

15.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述处理模块包括:

路由器节点,所述路由器节点用于根据所述消息头确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径从所述路由器节点传输至所述出口点。

16.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述处理模块包括:

分解器节点,所述分解器节点用于根据所述消息体的类型确定是否需要将所述数据分解为至少两个子数据,所述子数据也包括消息头和消息体;

当确定需要将所述数据分解为至少两个子数据时,所述分解器节点根据每一子数据的特征信息确定对应的消息头;

针对每一子数据,所述分解器节点根据所述子数据的消息头确定对应的目的点,并确定所述子数据在所述传输管道内的传输路径,以将所述子数据经由所述传输路径从所述分解器节点传输至所述出口点。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1