[发明专利]数据处理方法、数据处理装置和电子设备在审
申请号: | 201811563206.X | 申请日: | 2018-12-20 |
公开(公告)号: | CN109669993A | 公开(公告)日: | 2019-04-23 |
发明(设计)人: | 唐洪斌;刘震;杨鑫;张春海 | 申请(专利权)人: | 北京树根互联科技有限公司;树根互联技术有限公司;广州树根互联技术有限公司;江苏树根互联技术有限公司;上海树根互联技术有限公司;长沙树根互联技术有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/27 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 苏胜 |
地址: | 100000 北京市海淀区西*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异构化 等级对应 映射关系 数据处理 数据处理装置 电子设备 存储 数据存储技术 存储资源 多组数据 属性信息 数据量 查找 申请 | ||
1.一种数据处理方法,其特征在于,包括:
根据待处理的异构化数据的属性信息进行等级划分处理得到多个数据等级,其中,所述异构化数据由多组数据构成,各数据等级对应的数据量大小不同;
对每一个所述数据等级生成对应的一个映射关系,并将属于相同数据等级的各组数据基于该数据等级对应的映射关系进行存储;
判断是否存在需要进行调整的数据等级,并对需要进行调整的数据等级对应的映射关系进行调整。
2.根据权利要求1所述的数据处理方法,其特征在于,所述判断是否存在需要进行调整的数据等级,并对需要进行调整的数据等级对应的映射关系进行调的步骤,包括:
判断是否存在需要进行调整的数据等级;
若存在需要进行调整的数据等级,则判断是否需要重新进行等级划分处理;
若需要重新进行等级划分处理,则根据重新划分得到的数据等级生成对应的映射关系。
3.根据权利要求2所述的数据处理方法,其特征在于,所述根据重新划分得到的数据等级生成对应的映射关系的步骤,具体为:
根据重新划分得到的数据等级和一致性哈希算法生成对应的映射关系。
4.根据权利要求1-3任意一项所述的数据处理方法,其特征在于,所述根据待处理的异构化数据的属性信息进行等级划分处理得到多个数据等级的步骤,包括:
针对待处理的异构化数据中的每一组数据,获取该组数据中各子数据具有的数据类型和每一种数据类型对应的子数据的数量,其中,每一组数据包括多个子数据;
根据所述数据类型和每一种数据类型对应的子数据的数量进行等级划分处理得到多个数据等级。
5.根据权利要求4所述的数据处理方法,其特征在于,所述根据所述数据类型和每一种数据类型对应的子数据的数量进行等级划分处理得到多个数据等级的步骤,具体为:
根据所述数据类型、每一种数据类型对应的子数据的数量和一预设数量进行划分处理得到预设数量个数据等级。
6.一种数据处理装置,其特征在于,包括:
数据等级划分模块,用于根据待处理的异构化数据的属性信息进行等级划分处理得到多个数据等级,其中,所述异构化数据由多组数据构成,各数据等级对应的数据量大小不同;
数据存储模块,用于对每一个所述数据等级生成对应的一个映射关系,并将属于相同数据等级的各组数据基于该数据等级对应的映射关系进行存储;
映射关系调整模块,用于判断是否存在需要进行调整的数据等级,并对需要进行调整的数据等级对应的映射关系进行调整。
7.根据权利要求6所述的数据处理装置,其特征在于,所述映射关系调整模块包括:
等级调整判断子模块,用于判断是否存在需要进行调整的数据等级;
等级划分判断子模块,用于在存在需要进行调整的数据等级时,判断是否需要重新进行等级划分处理;
映射关系生成子模块,用于在需要重新进行等级划分处理时,根据重新划分得到的数据等级生成对应的映射关系。
8.根据权利要求7所述的数据处理装置,其特征在于,所述映射关系生成子模块具体用于:
根据重新划分得到的数据等级和一致性哈希算法生成对应的映射关系。
9.根据权利要求6-8任意一项所述的数据处理装置,其特征在于,所述数据等级划分模块包括:
属性信息获取子模块,用于针对待处理的异构化数据中的每一组数据,获取该组数据中各子数据具有的数据类型和每一种数据类型对应的子数据的数量,其中,每一组数据包括多个子数据;
数据等级划分子模块,用于根据所述数据类型和每一种数据类型对应的子数据的数量进行等级划分处理得到多个数据等级。
10.一种电子设备,其特征在于,包括存储器、处理器以及存储于该存储器并能够在该处理器上运行的计算机程序,该计算机程序运行时实现权利要求1-5任意一项所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京树根互联科技有限公司;树根互联技术有限公司;广州树根互联技术有限公司;江苏树根互联技术有限公司;上海树根互联技术有限公司;长沙树根互联技术有限公司,未经北京树根互联科技有限公司;树根互联技术有限公司;广州树根互联技术有限公司;江苏树根互联技术有限公司;上海树根互联技术有限公司;长沙树根互联技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811563206.X/1.html,转载请声明来源钻瓜专利网。