[发明专利]一种分布式键-值查询方法和查询引擎系统有效
申请号: | 201410256925.2 | 申请日: | 2011-12-31 |
公开(公告)号: | CN104050250B | 公开(公告)日: | 2018-06-05 |
发明(设计)人: | 杨康;谢冉 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 赵娟 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储节点 代理节点 查询引擎系统 元数据服务器 客户端请求 全局路由表 客户端 查询 数据转发模块 分布式存储 并发访问 查询转发 指向 存储 转发 发送 容纳 返回 响应 申请 维护 | ||
1.一种分布式键-值查询引擎系统,其特征在于,包括:
元数据服务器、至少一个代理节点和至少一个存储节点;
元数据服务器,用于维护指向存储节点的全局路由表信息;
至少一个代理节点,包括:
路由表同步模块、查询转发模块和数据转发模块;
路由表同步模块,用于将元数据服务器的全局路由表信息同步至所述代理节点的本地,具体包括:当前代理节点通过异步线程将维护在服务器上的全局路由表信息同步至所述代理节点的本地,在所述代理节点的本地进行对全局路由表信息的查询;
查询转发模块,用于响应客户端发出的包括目标KEY的请求,基于所述全局路由表信息,将客户端请求转发给相应的存储节点,所述查询转发模块基于所述代理节点的本地的全局路由表信息进行查询;
所述查询转发模块包括:哈希子模块、定位子模块和转发子模块;
哈希子模块,用于基于所接收的包括目标KEY的客户端请求,通过哈希算法计算目标KEY所在的数据区块;
定位子模块,用于依据计算得到的目标KEY所在的数据区块的标识,查询所述全局路由表信息,定位相应的存储节点;
转发子模块,用于将客户端请求转发至相应存储节点;
数据转发模块,用于将相应存储节点返回的包括目标Value的回应包传送给客户端;
至少一个存储节点,用于基于接收到的客户端请求,从本地存储中获取所需数据,并发送包括目标Value的回应包给代理节点。
2.根据权利要求1所述的系统,其特征在于,所述代理节点还包括:
路由表更新模块,用于当收到元数据服务器的路由表更新通知时,从元数据服务器获取新的全局路由表信息。
3.根据权利要求1所述的系统,其特征在于,所述元数据服务器还包括:
数据同步模块,用于通知新增的存储节点从所选定的存储节点中同步N个数据区块;所述N由所述新增存储节点的属性参数计算得到;
路由表变更模块,用于当所述新增的存储节点完成数据同步后,生成新的全局路由表信息;
第一更新通知模块,用于向代理节点发送路由表更新通知。
4.根据权利要求1或3所述的系统,其特征在于,所述元数据服务器还包括:
监控模块,用于监控各存储节点的存活状态,当监测到一个存储节点失效时,修改全局路由表信息;所述修改包括:针对以该失效的存储节点作为主节点的数据区块,将其主节点重新映射到另一个冗余节点上;
第二更新通知模块,用于向代理节点发送路由表更新通知。
5.根据权利要求1所述的系统,其特征在于,所述至少一个存储节点包括:
用于存储热点数据的高速存储节点,和用于存储非热点数据的其他类型存储节点;
其中,所述高速存储节点包括内存节点或者固态硬盘节点,所述其他类型存储节点包括SAS/SATA硬盘节点。
6.一种分布式键-值查询方法,其特征在于,包括:
接收客户端指向当前代理节点的包括目标KEY的请求;
当前代理节点通过异步线程将维护在服务器上的全局路由表信息同步至所述代理节点的本地,在所述代理节点的本地进行对全局路由表信息的查询;
当前代理节点通过查询全局路由表信息,将客户端请求转发给相应的存储节点,所述当前代理节点通过查询全局路由表信息,将客户端请求转发给相应的存储节点具体包括:基于所接收的包括目标KEY的客户端请求,通过哈希算法计算目标KEY所在的数据区块;依据计算得到的目标KEY所在的数据区块的标识,查询所述全局路由表信息,定位相应的存储节点;将客户端请求转发至相应存储节点;
当前代理节点将相应存储节点返回的包括目标Value的回应包传送给客户端。
7.如权利要求6所述的方法,其特征在于,还包括:
当收到路由表更新通知时,获取新的全局路由表信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410256925.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:在两个彼此铰接的车辆之间的过渡部
- 下一篇:城铁车辆无平台铝合金车顶结构