[发明专利]一种分布式数据的处理方法及装置有效

专利信息
申请号: 201410768646.4 申请日: 2014-12-12
公开(公告)号: CN105740295B 公开(公告)日: 2019-06-14
发明(设计)人: 张婷婷;罗亚丹;罗治国;潘毅;段翔;喻朝新;张静娴;吴霜 申请(专利权)人: 中国移动通信集团公司;中国移动通信集团广东有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F3/06
代理公司: 北京银龙知识产权代理有限公司 11243 代理人: 许静;黄灿
地址: 100032 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 分布式 数据 处理 方法 装置
【权利要求书】:

1.一种分布式数据的处理方法,其特征在于,包括:

将原始数据分别写入多个副本分片中,并为不同的副本分片设置标识不同功能的标签,其中,所述多个副本分片至少包括具有分析标签的副本分片、具有查询标签的副本分片以及具有仲裁一致标签的副本分片;

响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的副本分片,其中,所述操作请求至少包括分析数据的操作请求和查询数据的操作请求;

读取确定的所述副本分片的数据,并对所述数据进行相应的操作;

其中,所述为不同的副本分片设置标识不同功能的标签,具体为:

通过一转换设备为不同的副本分片设置标识不同功能的标签;其中,所述转换设备用于对所述原始数据进行预设转换;

其中,所述原始数据以第一预设格式存储为一基础文件,所述第一预设格式的基础文件用于数据的分析;

通过所述转换设备对所述第一预设格式的基础文件进行预设转换得到第二预设格式的转换文件,所述第二预设格式的转换文件用于数据的查询;

所述第一预设格式的基础文件包括用于存储数据的数据块、用于存储所述数据块的位置信息和所属副本分片信息的元数据块以及用于存储不同业务处理数据所属的副本分片和所述数据块的定位信息的第一文件信息;

所述第二预设格式的转换文件包括与所述基础文件共享的数据块和元数据块、以及对所述基础文件进行预设转换得到的用于存储不同业务处理数据所属的副本分片和所述数据块的定位信息的第二文件信息、用于存储数据块和元数据块的索引数据的索引信息以及用于存储所述预设格式的文件的各要素的偏移量位置信息及索引大小的定位信息。

2.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述多个副本分片为至少3个副本分片;其中,

具有所述查询标签的副本分片用于数据的查询,具有所述分析标签的副本分片用于数据的分析,具有所述仲裁一致标签的副本分片用于保证多个副本分片数据的一致性。

3.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的不同的副本分片,具体为:

响应分析数据的操作请求,解析所述第一预设格式的基础文件的第一文件信息定位所述分析数据的操作请求对应的具有分析标签的副本分片。

4.根据权利要求1或3所述的分布式数据的处理方法,其特征在于,所述响应不同的操作请求,根据所述副本分片的标签确定与所述不同的操作请求对应的不同的副本分片,具体为:

响应查询数据的操作请求,解析所述第二预设格式的转换文件的第二文件信息定位所述查询数据的操作请求对应的具有查询标签的副本分片;其中,所述第二预设格式的转换文件能够被预设交易查询服务系统辨识。

5.根据权利要求1所述的分布式数据的处理方法,其特征在于,所述方法还包括:

响应交易写入的请求,通过所述转换设备将所述交易写入的写入数据转换成能够被预设交易查询服务系统辨识的第二预设格式的写入文件;

解析所述写入文件,为所述写入文件设置查询标签;

将具有查询标签的写入文件写入具有所述查询标签的副本分片中,得到具有查询标签的新的副本分片;

将具有所述查询标签的所述新的副本分片中的数据同步到具有仲裁一致标签的副本分片中,完成写入。

6.根据权利要求5所述的分布式数据的处理方法,其特征在于,完成写入后所述方法还包括:

将具有所述仲裁一致标签的副本分片的数据同步到具有分析标签的副本分片中。

7.根据权利要求5所述的分布式数据的处理方法,其特征在于,将具有查询标签的写入文件写入具有所述查询标签的副本分片中,得到具有查询标签的新的副本分片,具体包括:

根据所述写入文件的查询标签,确定具有所述查询标签的副本分片;

将所述写入文件的内容写入具有所述查询标签的副本分片的元数据块中,得到具有所述查询标签的副本分片的新的元数据块;

根据所述新的元数据块的信息,重新组织具有所述查询标签的副本分片的数据块,构成具有查询标签的新的副本分片。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团公司;中国移动通信集团广东有限公司,未经中国移动通信集团公司;中国移动通信集团广东有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201410768646.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top