[发明专利]分布式数据库的数据汇总方法及装置和电子设备在审
申请号: | 201810718907.X | 申请日: | 2018-07-03 |
公开(公告)号: | CN109145051A | 公开(公告)日: | 2019-01-04 |
发明(设计)人: | 宋朝臣 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/2455 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式数据库 数据汇总 电子设备 生成数据 预设条件 分表 并行 指令 合并 | ||
1.一种分布式数据库的数据汇总的方法,所述方法包括:
在满足预设条件后,生成数据汇总指令;
获取所述分布式数据库的分库分表模式具有的数据表数量N;
将所述N个数据表划分为M个子任务;其中,所述M小于等于N,每个子任务对应至少一个数据表;
并行对每个子任务对应的数据表中数据进行数据汇总;
合并每个子任务的汇总结果,得到总的汇总结果。
2.根据权利要求1所述的方法,所述在满足预设条件后,生成数据汇总指令,具体包括:
判断当前时刻是否达到预设时刻;
在所述当前时刻是否达到预设时刻的情况下,生成数据汇总指令。
3.根据权利要求2所述的方法,所述方法还包括:
检查预设时长内新增的数据是否完整存储到所述分布式数据库中;
在所述当前时刻是否达到预设时刻的情况下,生成数据汇总指令,具体包括:
在所述当前时刻是否达到预设时刻以及完整性检查通过的情况下,生成数据汇总指令。
4.根据权利要求2所述的方法,所述方法还包括:
检查预设时长内新增的数据中是否存在悬挂未处理状态的数据;
在所述当前时刻是否达到预设时刻的情况下,生成数据汇总指令,具体包括:
在所述当前时刻是否达到预设时刻以及不存在悬挂未处理状态的数据的情况下,生成数据汇总指令。
5.根据权利要求1所述的方法,所述并行对每个子任务对应的数据表中数据进行数据汇总,具体包括:
将所述子任务分发给多线程,经由多线程并行对每个子任务对应的数据表中数据进行数据汇总。
6.根据权利要求5所述的方法,所述多线程的汇总结果缓存在内存中;
所述合并每个子任务的汇总结果,得到总的汇总结果,具体包括:
合并内存中缓存的每个子任务的汇总结果,得到总的汇总结果。
7.根据权利要求5所述的方法,所述将所述子任务分发给多线程,具体包括:
基于预设的分发策略,将所述子任务分发给多线程。
8.根据权利要求7所述的方法,所述分发策略包括随机分发、编排分发中的至少一种。
9.根据权利要求1所述的方法,将所述N个数据表划分为M个子任务,具体包括:
根据数据表中的数据量,将所述N个数据表划分为M个子任务。
10.一种分布式数据库的数据汇总装置,所述装置包括:
生成单元,在满足预设条件后,生成数据汇总指令;
获取单元,获取所述分布式数据库的分库分表模式具有的数据表数量N;
拆分单元,将所述N个数据表划分为M个子任务;其中,所述M小于等于N,每个子任务对应至少一个数据表;
并行汇总单元,并行对每个子任务对应的数据表中数据进行数据汇总;
合并汇总单元,合并每个子任务的汇总结果,得到总的汇总结果。
11.一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为上述权利要求1-9中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810718907.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种计算设备
- 下一篇:数据分区存储方法、设备、系统、存储介质及电子设备