分布式海量数据处理方法及装置
授权
摘要
本发明提供一种分布式海量数据处理方法及装置,包括:向元数据服务器发送索引请求;接收元数据服务器返回的可用服务器列表;对待索引的原始数据进行拆分,以获得拆分后的分块数据,并为分块数据分配数字编号;以分块数据的分块信息为键值,将分块数据的存储位置映射到可用服务器标识列表中;将与第二数据索引服务器标识对应的分块数据发送给第二数据索引服务器,以对分块数据进行存储;接收元数据服务器返回的索引完成信息。采用上述方法及装置,多个第二数据索引服务器可同时对接收到的分块数据进行存储,极大的提高了存储效率,并且通过索引完成信息即可完成在对存储的原始数据的查找,极大的提高了检索的效率。
基本信息
专利标题 :
分布式海量数据处理方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN108256076A
申请号 :
CN201810047558.3
公开(公告)日 :
2018-07-06
申请日 :
2018-01-18
授权号 :
CN108256076B
授权日 :
2022-04-01
发明人 :
王锋刘应波邓辉
申请人 :
广州大学;云南省科学技术情报研究院
申请人地址 :
广东省广州市大学城外环西路230号
代理机构 :
北京和信华成知识产权代理事务所(普通合伙)
代理人 :
胡剑辉
优先权 :
CN201810047558.3
主分类号 :
G06F17/30
IPC分类号 :
G06F17/30
法律状态
2022-04-01 :
授权
2018-07-31 :
实质审查的生效
IPC(主分类) : G06F 17/30
申请日 : 20180118
申请日 : 20180118
2018-07-06 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载