技术编号：9787443
提示：您尚未登录，请点 登 陆 后下载，如果您还没有账户请点 注 册 ，登陆完成后，请刷新本页查看技术详细信息。 本发明涉及数据处理，尤其涉及一种分布式数据去重处理方法及装置。背景技术 随着业务发展，我们的用户行为数据出现了爆发式增长，目前每天的用户行为事 件数据已超过10亿，部分产品的累计用户/机器数已超5亿。为了实时分析截止当前时刻有 多少新增用户(机器），当天有多少用户(机器)活跃，充值或其他的行为事件发送的人数机 器数。使用传统的方法将数据储存后计算已经不能满足数据量的飞速增长，即使使用分布 式的列式数据库，导入的延时、计算的复杂度、数据储存的成本都非常高。...
注意：该技术已申请专利，请尊重研发人员的辛勤研发付出，在未取得专利权人授权前，仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权，增加技术思路，做技术知识储备，不适合论文引用。
请注意，此类技术没有源代码，用于学习研究技术思路。