[发明专利]动态分库路由的方法和装置在审
申请号: | 201910949147.8 | 申请日: | 2019-10-08 |
公开(公告)号: | CN110795419A | 公开(公告)日: | 2020-02-14 |
发明(设计)人: | 范雄健;陈大平;程明远;苏贤杰;范玄;黄瑾;周小聪 | 申请(专利权)人: | 中国建设银行股份有限公司;建信金融科技有限责任公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/22;G06F16/242 |
代理公司: | 11219 中原信达知识产权代理有限责任公司 | 代理人: | 张一军;张效荣 |
地址: | 100033 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分表 待处理数据 数据实体 路由 垂直 计算机技术领域 动态配置信息 数据检索条件 方法和装置 全局索引表 应用服务器 扩展性 复杂业务 规则确定 获取数据 快速横向 快速迁移 业务场景 灵活 应用 | ||
本发明公开了一种动态分库路由的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取数据实体的动态配置信息;若数据实体的分库模式是垂直分库,则根据垂直切分规则确定与待处理数据对应的数据分表;若数据实体的分库模式是水平分库,则根据水平切分规则和全局索引表确定与待处理数据对应的数据分表;建立与数据分表的连接,以实现分库路由。本发明能够支持应用服务器快速横向扩展,数据重分布时具备快速迁移能力,扩展性好;支持多种分库模式和切分规则,适应不同的业务场景;数据检索条件灵活,支持复杂业务应用。
技术领域
本发明涉及计算机技术领域,尤其涉及一种动态分库路由的方法和装置。
背景技术
随着互联网,尤其是移动互联网的发展,移动应用数量出现爆发式的增长、用户数量也出现了前所未有的规模,十亿级的用户千亿级的数据量比比皆是。IT技术团队,几乎都会遇到数据量巨大、业务查询缓慢、大数据量占用大量存储、磁盘IO并发量大等问题。一般来说,Mysql单库超过5000万条记录,Oracle单库超过1亿条记录,DB压力就很大,当然容量大小和具体业务、字段数量、访问模式、数据内容等都有进一步关系。如果仅仅是查询缓慢,可以先从sql优化、缓存、读写分离等手段解决。当数据量增长超过单库限制时,很容易出现性能问题,会自然而想到分库分表存储数据,即sharding。
现有技术中一般采用垂直切分或者水平切分的方式进行分库分表。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
1.垂直切分只能解决基于垂直切分模型的动态路由,切分达到一定程度之后,扩展性会遇到限制;
2.水平切分只能解决基于水平切分模型的动态路由,数据检索必须带KEY_ID条件,具有一定局限性,不适用于多种条件数据检索的业务应用场景。
发明内容
有鉴于此,本发明实施例提供一种动态分库路由的方法和装置,能够支持应用服务器快速横向扩展,数据重分布时具备快速迁移能力,扩展性好;支持多种分库模式和切分规则,适应不同的业务场景;数据检索条件灵活,支持复杂业务应用;向应用业务开发人员屏蔽底层数据切分模型,易用性高容错率高。
为实现上述目的,根据本发明的一个方面,提供了一种动态分库路由的方法,包括:
获取数据实体的动态配置信息,所述动态配置信息包括:分库模式、垂直切分规则、水平切分规则和全局索引表;
若所述数据实体的分库模式是垂直分库,则根据所述垂直切分规则确定与待处理数据对应的数据分表;若所述数据实体的分库模式是水平分库,则根据所述水平切分规则和所述全局索引表确定与所述待处理数据对应的数据分表;
建立与所述数据分表的连接,以实现分库路由。
可选地,根据所述水平切分规则和所述全局索引表确定与所述待处理数据对应的数据分表,包括:
判断所述待处理数据的检索词是否是分库主键;
若是,则直接根据所述水平切分规则确定与所述待处理数据对应的数据分表;
否则,从所述全局索引表中查询与所述检索词对应的分库主键,然后根据所述分库主键和所述水平切分规则确定与所述待处理数据对应的数据分表。
可选地,所述水平切分规则包括:按照哈希分片的切分规则,按照时间切片的切分规则。
可选地,本发明实施例的方法是在数据DAO层实现的。
根据本发明的再一方面,提供了一种动态分库路由的装置,包括:
获取模块,获取数据实体的动态配置信息,所述动态配置信息包括:分库模式、垂直切分规则、水平切分规则和全局索引表;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国建设银行股份有限公司;建信金融科技有限责任公司,未经中国建设银行股份有限公司;建信金融科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910949147.8/2.html,转载请声明来源钻瓜专利网。