技术总结
本发明实施例提供一种并行数据加载方法和系统,通过将待加载的数据存储在FTP服务器中,数据节点从FTP服务器中下载加载文件信息对应的数据块,以FTP服务器文件的形式下载,提高了下载文件的效率,提高了并行数据加载的效率。通过主节点向多个数据节点发送加载指示信息,以使多个数据节点并行加载FTP服务器中存储的数据,通过数据节点主动向服务器请求分配任务的方式,可以使处理能力强的数据节点加载更多的数据块,实现加载任务的按需分配,进一步提高并行数据加载的效率。
技术研发人员:杨卓慧
受保护的技术使用者:成都华为技术有限公司
文档号码:201611150991
技术研发日:2016.12.14
技术公布日:2017.05.31