应用于大数据的多计算框架处理系统及关联规则挖掘方法与流程

文档序号:11864498阅读:来源:国知局
技术总结
本发明公开了一种应用于大数据的多计算框架处理系统及关联规则挖掘方法。所述系统包括一个分布式计算机集群,共享该分布式计算机集群的mapreduce系统框架及spark系统框架,所述计算机集群包括组成事务数据库的数据库集群、交换机、应用服务器、Hadoop集群、Spark集群。本发明利用集群分配计算任务,利用多节点并行计算和分布式存储的优势,将多计算框架与关联规则挖掘算法结合起来,将分割事务集和剪枝策略结合起来,减少了数据的处理量,有效地提高了处理效率;同时,通过直接扫描value来求解条件模式基,在克服共享内存的局限性方面有了较大提升,使得计算资源得以均衡分配,有效地解决了传统项集挖掘算法存在计算和存储能力不足的问题。

技术研发人员:李彤岩;张婷;赵伦;苟瀚元;徐嘉临
受保护的技术使用者:成都信息工程大学
文档号码:201610459965
技术研发日:2016.06.23
技术公布日:2016.11.16

当前第3页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1