Hadoop中基于Zigzag的MapReduce数据处理方法与流程

文档序号:12472167阅读:来源:国知局
技术总结
本发明公开了一种Hadoop中基于Zigzag的MapReduce数据处理方法,包括:将视频图像的离散余弦变换编码特点及相关的Zigzag分布特征信息引入MapReduce模型的拷贝过程中;将行程编码技术引入MapReduce模型的合并过程中;对合并后的数据进行Reduce处理。与现有技术相比,本发明的方法充分考虑了图像的DCT变换特点及相关Zigzag分布特征信息,其拷贝的数据量大小完全可控,拷贝环节内存不易溢出,随后采用行程编码合并后,Reduce过程中的硬盘IO访问次数将大大地减少,同时MapReduce视频处理性能也获得了极大提升。

技术研发人员:包先雨;陈枝楠;陈新;李军;郭云
受保护的技术使用者:深圳市检验检疫科学研究院
文档号码:201610586738
技术研发日:2016.07.21
技术公布日:2016.12.21

当前第3页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1