一种面向SparkStreaming平台的数据接收通道动态分配方法与流程

文档序号:14426625阅读:来源:国知局

技术特征:

技术总结
本发明公开一种面向Spark Streaming平台的数据接收通道动态分配方法,分配方法主要分为六个步骤:初始化、数据接收通道接收能力评估、基于马尔可夫链模型的流式数据到达速率变化状态预测、数据接收通道动态分配决策、数据接收通道组件回收与追增和回溯。本方法依据Spark Streaming应用的数据接收能力及流式数据到达速率的变化预测,为流式应用在线自动化地增加和减少数据通道的分配部署,确保数据处理的时效性以及提升通道组件资源和批处理引擎计算能力的利用率。

技术研发人员:梁毅;丁振兴;李硕;丁治明
受保护的技术使用者:北京工业大学
技术研发日:2017.12.01
技术公布日:2018.05.15
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1