[发明专利]分布式数据库的数据汇总方法及装置和电子设备在审
申请号: | 201810718907.X | 申请日: | 2018-07-03 |
公开(公告)号: | CN109145051A | 公开(公告)日: | 2019-01-04 |
发明(设计)人: | 宋朝臣 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/2455 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式数据库 数据汇总 电子设备 生成数据 预设条件 分表 并行 指令 合并 | ||
本说明书实施例提供一种分布式数据库的数据汇总方法及装置和电子设备,所述方法包括:在满足预设条件后,生成数据汇总指令;获取所述分布式数据库的分库分表模式具有的数据表数量N;将所述N个数据表划分为M个子任务;其中,所述M小于等于N,每个子任务对应至少一个数据表;并行对每个子任务对应的数据表中数据进行数据汇总;合并每个子任务的汇总结果,得到总的汇总结果。
技术领域
本说明书实施例涉及互联网技术领域,尤其涉及一种分布式数据库的数据汇总方法及装置和电子设备。
背景技术
数据汇总是指对数据库中存储的业务明细数据,按照指定的一个或者多个维度进行聚合汇总统计的过程。
在相关技术中,数据汇总通常在某个预设时间点时一次性对预设时长内的数据进行汇总。以金融行业为例,通常需要会在日终时对当天产生的金融数据一次性进行数据汇总。然而,随着数据量的逐渐增多,数据汇总执行耗时越来越长;并且当数据汇总执行失败时,必须重新进行数据汇总。
因此,需要提供一种更有效率的数据汇总方案。
发明内容
本说明书实施例提供的一种分布式数据库的数据汇总方法及装置和电子设备:
根据本说明书实施例的第一方面,提供一种分布式数据库的数据汇总方法,所述方法包括:
在满足预设条件后,生成数据汇总指令;
获取所述分布式数据库的分库分表模式具有的数据表数量N;
将所述N个数据表划分为M个子任务;其中,所述M小于等于N,每个子任务对应至少一个数据表;
并行对每个子任务对应的数据表中数据进行数据汇总;
合并每个子任务的汇总结果,得到总的汇总结果。
根据本说明书实施例的第二方面,提供一种分布式数据库的数据汇总装置,所述装置包括:
生成单元,在满足预设条件后,生成数据汇总指令;
获取单元,获取所述分布式数据库的分库分表模式具有的数据表数量N;
拆分单元,将所述N个数据表划分为M个子任务;其中,所述M小于等于N,每个子任务对应至少一个数据表;
并行汇总单元,并行对每个子任务对应的数据表中数据进行数据汇总;
合并汇总单元,合并每个子任务的汇总结果,得到总的汇总结果。
根据本说明书实施例的第三方面,提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为上述任一项分布式数据库的数据汇总方法。
本说明书实施例,提供了一种分布式数据库的数据汇总方案,基于分布式数据库中分库分表模型的数据隔离性,将多个数据表的遍历汇总封装成多个子任务,然后并行对每个子任务对应的数据表进行单独的数据汇总。通过并行数据汇总,大大降低了数据汇总需要的时间。
附图说明
图1是本说明书提供的分布式数据库的分库分表模式的示意图;
图2是本说明书一实施例提供的分布式数据库的数据汇总方法的流程图;
图3是本说明书一实施例提供的多线程并行汇总处理的示意图;
图4是本说明书一实施例提供的分布式数据库的数据汇总装置的硬件结构图;
图5是本说明书一实施例提供的分布式数据库的数据汇总装置的模块示意图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810718907.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种计算设备
- 下一篇:数据分区存储方法、设备、系统、存储介质及电子设备