[发明专利]数据处理方法、装置、存储介质及终端有效
申请号: | 201911243602.9 | 申请日: | 2019-12-06 |
公开(公告)号: | CN110928665B | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 王文武;谭仕朝 | 申请(专利权)人: | 深圳乐信软件技术有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F16/21 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 存储 介质 终端 | ||
1.一种数据处理方法,其特征在于,包括:
确定待处理数据的数据类型;其中,所述数据类型包括业务单表数据和业务分库分表数据;
根据所述数据类型确定与所述待处理数据对应的数据分片策略;
根据所述数据分片策略对所述待处理数据进行分片,生成分片数据库;
对所述分片数据库中的待处理数据进行并行处理;
当所述数据类型为业务单表数据时,所述数据分片策略为多分片分页策略;
根据所述数据分片策略对所述待处理数据进行分片,生成分片数据库,包括:
根据所述待处理数据的第一数据总数及预先设定的每页处理数据的第一数据条数确定分页库总数;
按照第一预设规则将所述待处理数据分配到各个分页库中,并对所述各个分页库标记页码;
根据所述分页库总数及预先设定的第一分片库总数确定每个分片库处理数据的数据页数;
按照第二预设规则将所述分页库分配到各个第一分片库中;其中,每个第一分片库中包含数据页数个分页库;
当所述数据类型为业务分库分表数据时,所述数据分片策略为多分片分表策略;
根据所述数据分片策略对所述待处理数据进行分片,生成分片数据库,包括:
根据所述待处理数据的第二数据总数及预先设定的每个表处理数据的第二数据条数确定分表库总数;
按照第三预设规则将所述待处理数据分配到各个分表库中,并对所述各个分表库标记表码;
根据分表库总数及预先设定的第二分片库总数确定每个分片库处理数据的数据表数;
按照第四预设规则将所述分表库分配到各个第二分片库中;其中,每个第二分片库中包含数据表数个分表库。
2.根据权利要求1所述的方法,其特征在于,在根据所述数据类型确定与所述待处理数据对应的数据分片策略之前,包括:
获取预先设定的数据类型与数据分片策略的对应关系表;
根据所述数据类型确定与所述待处理数据对应的数据分片策略,包括:
根据所述数据类型和所述对应关系表确定与所述待处理数据对应的数据分片策略。
3.根据权利要求1所述的方法,其特征在于,所述第二预设规则包括:
遍历所有分页库,用当前分页库对应的页码除以所述第一分片库总数,计算第一余数;
当所述第一余数与当前第一分片库的序号相同时,将所述当前分页库分配到所述当前第一分片库内。
4.根据权利要求1所述的方法,其特征在于,所述第四预设规则包括:
遍历所有分表库,用当前分表库对应的表码除以第二分片总数,计算第二余数;
当所述第二余数与当前第二分片库的序号相同时,将所述当前分表库分配到所述当前第二分片库内。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳乐信软件技术有限公司,未经深圳乐信软件技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911243602.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种建筑用重物抓取机构
- 下一篇:远程抄表主设备及远程抄表系统