X技术
首页
登录
注册
一种数据获取方法、装置、电子设备及存储介质与流程
文档序号:18010056
发布日期:2019-06-25 23:54
阅读:
来源:国知局
导航:
X技术
>
最新专利
>
计算;推算;计数设备的制造及其应用技术
>
一种数据获取方法、装置、电子设备及存储介质与流程
技术特征:
技术总结
本申请实施例提供了一种数据获取方法、装置、电子设备及存储介质,该方法包括:集群中的每个处理模块都可以从分布式队列中获取爬取请求,处理模块根据获取到的爬取请求爬取数据后,如果数据中仍包括链接,则可以继续将该链接封装成新的爬取请求,将该新的爬取请求投递至分布式队列中,这样,各处理模块可以并行爬取数据,提高了爬取效率。
技术研发人员:
胡凌云;丁国航
受保护的技术使用者:
北京达佳互联信息技术有限公司
技术研发日:
2019.03.29
技术公布日:
2019.06.25
完整全部详细技术资料下载
当前第2页
1
2
相关技术
一种大数据平台运维管理系统的...
车辆咨询信息处理方法及装置与...
一种企业知识产权价值评估模型...
一种检索展示方法、装置、设备...
一种基于多策略融合的微博数据...
基于大数据的学生阅读建议生成...
一种学术画像模型的构建方法及...
一种用户画像的来源校验方法及...
一种游客信息管理方法及装置与...
一种数据传输方法与流程
网友询问留言
已有
0
条留言
还没有人留言评论。精彩留言会获得点赞!
1
数据存储介质相关技术
一种闪存单元器件及闪存的制造方法与工艺
一种NAND Flash电压自动补偿方法和装置与流程
一种介质存储箱及金融自助设备的制造方法与工艺
订单的生成方法及装置、存储介质、处理器、终端与流程
转账方法、装置及计算机可读存储介质与流程
指纹操作方法、移动终端及存储介质与流程
预警显示处理方法、装置、存储介质和处理器与流程
视频检索方法、装置、存储介质及处理器与流程
文本关键词生成方法及装置和电子设备及可读存储介质与流程
一种文件显示方法、装置、存储介质及移动终端与流程
存储介质相关技术
终端、用户识别模块卡发行方法及计算机可读存储介质与流程
终端、用户识别模块卡发行方法及计算机可读存储介质与流程
音箱、低音单元的振幅降低方法、电视终端及存储介质与流程
电视应用软件刷新方法、电视及计算机可读存储介质与流程
网络电视升级方法、装置及计算机可读存储介质与流程
一种图像曝光补偿方法、装置和计算机可读存储介质与流程
视频处理方法、装置、电子设备及存储介质与流程
对焦控制方法、装置、计算机可存储介质和移动终端与流程
移动终端拍摄方法、移动终端及计算机可读存储介质与流程
提高免提通话质量的方法、装置、移动终端及存储介质与流程