[发明专利]一种数据读取的方法、装置及系统有效
申请号: | 201410635413.7 | 申请日: | 2014-11-12 |
公开(公告)号: | CN104462225B | 公开(公告)日: | 2018-01-12 |
发明(设计)人: | 肖宇雷;陈志远;叶涛 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙)44285 | 代理人: | 王仲凯 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 读取 方法 装置 系统 | ||
技术领域
本发明涉及计算机技术领域,具体涉及一种业务数据处理的方法、装置及系统。
背景技术
在集群数据库系统中数据读取的过程是:计算节点先从自身内存中查找数据,如果自身内存中不存在查找的数据,则从自身固态硬盘(Solid State Drive,SSD)中查找,如果自身SSD中也不存在查找的数据,则从再从磁盘中查找。SSD是数据库系统中的扩展缓存,存放内存中淘汰出来的干净页。在读取数据的时候,如果内存中不命中,先尝试在SSD扩展缓存中命中。因为SSD的容量一般是内存容量的2-8倍,可以缓存大部分的热数据。所以,大部分的不在内存中命中的热数据可以快速在SSD中命中。
现有技术的数据库系统中每个计算节点都要配一块SSD卡。如果集群中有10个计算节点,则共需要配10块SSD卡,导致数据库系统中要配多块SSD卡,而且单块SSD只为单个计算节点做读缓存无法充分利用SSD的容量,导致SSD的利用率低下。
发明内容
本发明实施例提供的一种数据读取的方法,在保证数据读取速率的同时,可以减少集群数据库系统中SSD的数量,提高集群数据库系统中共享缓存的利用率。本发明实施例还提供了相应的装置及系统。
本发明第一方面提供一种数据读取的方法,所述方法应用于集群数据库系统中的计算节点,所述集群数据系统还包括协调节点,所述协调节点上设置有供所述集群数据库系统中的多个计算节点所共享的共享缓存,每个计算节点中都分别设置有内存,所述方法包括:
所述计算节点在所述内存中查找待读取的数据页;
在未查找到所述待读取的数据页时,所述计算节点向所述协调节点发送数据获取请求,所述数据获取请求用于指示所述协调节点从所述共享缓存中查找所述待读取的数据页;
所述计算节点读取所述协调节点发送的所述待读取的数据页,所述待读取的数据页为所述协调节点在所述共享缓存中查找到所述待读取的数据页时发送给所述计算节点的;
所述计算节点接收所述协调节点发送的未查找到所述待读取的数据页的指示消息,所述指示消息为所述协调节点在所述共享缓存中未查找到所述待读取的数据页时发送给所述计算节点的,所述计算节点根据所述指示消息,从所述集群数据库系统的共享磁盘中查找所述待读取的数据页。
结合第一方面,在第一种可能的实现方式中,所述计算节点所述向所述协调节点发送数据获取请求之前,所述方法还包括:
所述计算节点根据淘汰算法,从内存中确定出淘汰页;
当所述淘汰页为脏页时,将所述淘汰页发送到所述共享磁盘进行存储;
当所述淘汰页为干净页时,将所述淘汰页发送到所述协调节点,以便所述协调节点将所述淘汰页存储到所述共享缓存中。
本发明第二方面提供一种数据读取的方法,所述方法应用于集群数据库系统中的协调节点,所述集群数据系统还包括多个计算节点,所述协调节点上设置有供所述集群数据库系统中的所述多个计算节点所共享的共享缓存,每个计算节点中都分别设置有内存,所述方法包括:
所述协调节点接收数据获取请求,所述数据获取请求为计算节点在内存中未查找到待读取的数据页时发送给所述协调节点的;
所述协调节点根据所述数据获取请求,从所述共享缓存中查找所述待读取的数据页;
所述协调节点在查找到所述待读取的数据页时,向发送所述数据获取请求的计算节点发送所述待读取的数据页;
所述协调节点在未查找到所述待读取的数据页时,向发送所述数据获取请求的计算节点发送未查找到所述待读取的数据页的指示消息,以使所述发送所述数据获取请求的计算节点根据所述指示消息,从所述集群数据库系统的共享磁盘中查找所述待读取的数据页。
结合第二方面,在第一种可能的实现方式中,所述共享缓存包括设置在所述协调节点上的内存和固态硬盘SSD,所述从所述共享缓存中查找所述待读取的数据页,包括:
从设置在所述协调节点上的内存中查找是否有所述待读取的数据页;
当在所述协调节点内存中未查找到所述待读取的数据页时,从所述SSD中查找所述待读取的数据页。
结合第二方面第一种可能的实现方式,在第二种可能的实现方式中,所述从所述SSD中查找对应的待读取的数据页,包括:
从SSD哈希表中查找是否有所述待读取的数据页的标识信息,所述SSD哈希表记录所述SSD中存储的数据页的标识信息;
当所述SSD哈希表中有所述待读取的数据页的标识信息时,则从所述SSD中获取对应的待读取的数据页。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410635413.7/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置