[发明专利]基于对等部署的分布式数据库查询优先级管理的实现方法有效
申请号: | 201410663305.0 | 申请日: | 2014-11-19 |
公开(公告)号: | CN104391918B | 公开(公告)日: | 2018-01-19 |
发明(设计)人: | 陈青;张学;崔维力;武新 | 申请(专利权)人: | 天津南大通用数据技术股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 天津滨海科纬知识产权代理有限公司12211 | 代理人: | 杨慧玲 |
地址: | 300384 天津市滨海新区高新区华*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 对等 部署 分布式 数据库 查询 优先级 管理 实现 方法 | ||
技术领域
本发明属于分布式数据库查询管理技术领域,尤其是涉及一种基于对等部署的分布式数据库查询优先级管理的实现方法及装置。
背景技术
随着信息化技术的快速发展,大型数据库系统需要处理和存储的数据量越来越大,计算越来越复杂,对于性能的挑战也越来越大,性能,可靠性,可扩展性的需求就会越来越强烈,这个时候一个集中式的数据库显然已经满足不了需求了。为了适应应用业务的发展需要,分布式数据库系统将数据分布在计算机网络的不同节点上,而这些数据在逻辑上属于同一个系统,该系统可称为分布式数据库集群。在分布式数据库集群中与传统的数据库一样也需要根据不同用户或用户组设置不同的优先级,高优先级的用户可拥有更多的资源,以确保其可获得更好的服务,而一些任务对于执行效率无要求,则可使用低优先级用户执行,可防止其过多占用资源。
对于分布式数据库集群,由于其资源分布在不同节点,而且某一个查询也会可能被分解为许多步骤,且被指派到不同节点执行,那么对于传统的优先级实现方法则往往需要统一的资源管理与任务调度中心,如图1所示,这种情况可解决优先级的实现,但是其实现相对复杂,且往往会消耗一些系统资源,例如其要收集所有节点资源状态以对于不同优先级做划分等,调度中心则需要调度整个集群所有的查询任务,在执行效率上会存在较高的实现难度。
综上所述,现有分布式数据库集群很难在保证高效率的前提下实现优先级管理。
发明内容
针对上述问题,本发明的目的是提供一种基于对等部署的分布式数据库查询优先级管理的实现方法及装置,在分布式数据库集群中实现高效率的查询优先级管理,以适合于分布式数据库建立不同优先级别用户的需求。
本发明采用的设计思想是:按照对等部署模式,在各个执行节点采用同样的按集群优先级划分资源的原则以及任务调度策略,且通过集群全局唯一的任务ID以确保查询任务执行的顺序。
为解决上述技术问题,本发明一方面提供一种基于对等部署的分布式数据库查询优先级管理的实现方法,包含:
对于分布式数据库的每个查询执行节点,按照相同的集群既定的优先级定义将其资源按照一定的比例进行划分,优先级高的资源比例大;
在各个执行节点上建立一致的基于集群优先级的任务队列,每个任务队列可管理一定数目的查询任务,集群为查询任务提供全局唯一的任务ID,查询任务按照任务ID在任务队列中排序;
各个执行节点对于任务队列,采用相同的调度模式,优先级从高到低从任务队列中或取不同数目的任务去执行,高优先级出列的任务会多于低优先级。
优选的,对于分布式数据库的每个查询执行节点,将其资源按照一定的比例进行划分为多个资源管理组,每个资源管理组对应一个优先级,不同优先级的查询会挂接到对应的资源管理组上。
优选的,所述任务ID会按照无回溯模式创建,保证先到的查询可获得较小的任务ID。
优选的,各个优先级的调度任务队列长度作为参数允许集群配置,从高到低访问任务队列,获取设定的任务,如任务队列中数目小于调度任务队列长度,则全部取出。
优选的,所述调度任务队列长度为所有优先级一次出列任务的总和的长度。
优选的,所述资源管理组实现需控系统资源的选取及其使用参数的设定。
本发明的另一方面提供一种基于对等部署的分布式数据库查询优先级管理的实现装置,包含:
资源管控单元,用于对于分布式数据库的每个查询执行节点,按照相同的集群既定的优先级定义将其资源按照一定的比例进行划分,优先级高的资源比例大;
任务管理单元,用于在各个执行节点上建立一致的基于集群优先级的任务队列,每个任务队列可管理一定数目的查询任务,集群为查询任务提供全局唯一的任务ID,查询任务按照任务ID在任务队列中排序;
任务调度单元,实现各个执行节点对于任务队列,采用相同的调度模式,优先级从高到低从任务队列中或取不同数目的任务去执行,高优先级出列的任务会多于低优先级。
优选的,任务管理单元还实现所述任务ID按照无回溯模式创建,保证先到的查询可获得较小的任务ID。
优选的,任务调度单元将各个优先级的调度任务队列长度作为参数允许集群配置,从高到低访问任务队列,获取设定的任务。
优选的,所述资源管控单元实现需控系统资源的选取及其使用参数的设定。
本发明具有的优点和积极效果是:
对不同优先级别按比例划分资源,以确保高优先级查询可获得更多执行资源;只需各个执行节点按照同样的策略部署即可而无需统一的资源管理中心,实现结构相对简易;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津南大通用数据技术股份有限公司,未经天津南大通用数据技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410663305.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种查询数据集的方法及装置
- 下一篇:一种增量抓取网页内容的方法