[发明专利]一种分布式数据的处理方法及装置有效
申请号: | 201410768646.4 | 申请日: | 2014-12-12 |
公开(公告)号: | CN105740295B | 公开(公告)日: | 2019-06-14 |
发明(设计)人: | 张婷婷;罗亚丹;罗治国;潘毅;段翔;喻朝新;张静娴;吴霜 | 申请(专利权)人: | 中国移动通信集团公司;中国移动通信集团广东有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F3/06 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静;黄灿 |
地址: | 100032 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 数据 处理 方法 装置 | ||
1.一种分布式数据的处理方法,其特征在于,包括:
将原始数据分别写入多个副本分片中,并为不同的副本分片设置标识不同功能的标签,其中,所述多个副本分片至少包括具有分析标签的副本分片、具有查询标签的副本分片以及具有仲裁一致标签的副本分片;
响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的副本分片,其中,所述操作请求至少包括分析数据的操作请求和查询数据的操作请求;
读取确定的所述副本分片的数据,并对所述数据进行相应的操作;
其中,所述为不同的副本分片设置标识不同功能的标签,具体为:
通过一转换设备为不同的副本分片设置标识不同功能的标签;其中,所述转换设备用于对所述原始数据进行预设转换;
其中,所述原始数据以第一预设格式存储为一基础文件,所述第一预设格式的基础文件用于数据的分析;
通过所述转换设备对所述第一预设格式的基础文件进行预设转换得到第二预设格式的转换文件,所述第二预设格式的转换文件用于数据的查询;
所述第一预设格式的基础文件包括用于存储数据的数据块、用于存储所述数据块的位置信息和所属副本分片信息的元数据块以及用于存储不同业务处理数据所属的副本分片和所述数据块的定位信息的第一文件信息;
所述第二预设格式的转换文件包括与所述基础文件共享的数据块和元数据块、以及对所述基础文件进行预设转换得到的用于存储不同业务处理数据所属的副本分片和所述数据块的定位信息的第二文件信息、用于存储数据块和元数据块的索引数据的索引信息以及用于存储所述预设格式的文件的各要素的偏移量位置信息及索引大小的定位信息。
2.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述多个副本分片为至少3个副本分片;其中,
具有所述查询标签的副本分片用于数据的查询,具有所述分析标签的副本分片用于数据的分析,具有所述仲裁一致标签的副本分片用于保证多个副本分片数据的一致性。
3.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的不同的副本分片,具体为:
响应分析数据的操作请求,解析所述第一预设格式的基础文件的第一文件信息定位所述分析数据的操作请求对应的具有分析标签的副本分片。
4.根据权利要求1或3所述的分布式数据的处理方法,其特征在于,所述响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的不同的副本分片,具体为:
响应查询数据的操作请求,解析所述第二预设格式的转换文件的第二文件信息定位所述查询数据的操作请求对应的具有查询标签的副本分片;其中,所述第二预设格式的转换文件能够被预设交易查询服务系统辨识。
5.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述方法还包括:
响应交易写入的请求,通过所述转换设备将所述交易写入的写入数据转换成能够被预设交易查询服务系统辨识的第二预设格式的写入文件;
解析所述写入文件,为所述写入文件设置查询标签;
将具有查询标签的写入文件写入具有所述查询标签的副本分片中,得到具有查询标签的新的副本分片;
将具有所述查询标签的所述新的副本分片中的数据同步到具有仲裁一致标签的副本分片中,完成写入。
6.根据权利要求5所述的分布式数据的处理方法,其特征在于,完成写入后所述方法还包括:
将具有所述仲裁一致标签的副本分片的数据同步到具有分析标签的副本分片中。
7.根据权利要求5所述的分布式数据的处理方法,其特征在于,将具有查询标签的写入文件写入具有所述查询标签的副本分片中,得到具有查询标签的新的副本分片,具体包括:
根据所述写入文件的查询标签,确定具有所述查询标签的副本分片;
将所述写入文件的内容写入具有所述查询标签的副本分片的元数据块中,得到具有所述查询标签的副本分片的新的元数据块;
根据所述新的元数据块的信息,重新组织具有所述查询标签的副本分片的数据块,构成具有查询标签的新的副本分片。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团公司;中国移动通信集团广东有限公司,未经中国移动通信集团公司;中国移动通信集团广东有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410768646.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置