[发明专利]数据查询的方法及装置有效
申请号: | 202010100000.4 | 申请日: | 2020-02-18 |
公开(公告)号: | CN111259060B | 公开(公告)日: | 2023-08-15 |
发明(设计)人: | 朱超;吴昭;陈嘉骏 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/2453 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 张娜;臧建明 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 查询 方法 装置 | ||
本申请实施例提供一种数据查询的方法及装置,涉及智能搜索技术领域,具体包括:客户端可以在公共服务系统中获取缓存系统中多个数据分片的分片信息,任一个数据分片的分片信息包括:数据分片的标签掩码和数据分片的掩码区间;进而客户端获取查询关键字后;可以计算查询关键字的目标掩码;根据目标掩码以及多个数据分片的分片信息的掩码区间,在多个数据分片中确定目标数据分片,以及利用目标数据分片的标签掩码确定目标机器;向目标机器发送数据访问请求;接收目标机器响应于数据访问请求返回的查询结果,从而不需要在缓存系统中引入复杂的meta信息管理,实现较为简单。
技术领域
本申请涉及数据处理的智能检索技术领域,尤其涉及一种数据查询的方法及装置。
背景技术
随着通信技术的发展,计算机中需要处理的数据的规模越来越大。例如,在数据查询系统中,为处理超大规模的数据查询流量,通常会在数据存储层和查询层之间增加一层缓存系统,缓存系统中会缓存当前符合某种分布规律的热点数据,同时采用数据淘汰算法动态淘汰数据,保证缓存系统中缓存数据量处于一个可控且稳定的状态。
现有技术中,缓存系统中可能存在的架构设计有以下两种:第一种,多机单副本。采用哈希算法对数据进行分片处理,机器实例间缓存的数据无重叠、所有机器实例构成完整的数据集,数据分片会相应引入元数据(meta)信息,上游业务访问时需要通过meta服务获取到meta信息,再根据meta信息访问数据分片机器获取数据。第二种,多机分片多副本,对数据进行分片处理后,每个分片的数据存在多个副本,数据查询时也需要meta服务支持。
但是,上述两种方式中,缓存系统的架构中需要强依赖meta服务,导致引入复杂的meta信息管理问题。
发明内容
本申请实施例提供一种数据查询的方法及装置,以解决现有技术中缓存系统强依赖meta服务,导致引入复杂的meta信息的技术问题。
本申请实施例第一方面提供一种数据查询的方法,包括:
在公共服务系统中获取缓存系统中多个数据分片的分片信息,任一个所述数据分片的分片信息包括:所述数据分片的标签掩码和所述数据分片的掩码区间;获取查询关键字;计算所述查询关键字的目标掩码;根据所述目标掩码以及所述多个数据分片的掩码区间,在所述多个数据分片中确定目标数据分片;利用所述目标数据分片的标签掩码确定目标机器;其中,所述标签掩码与所述目标机器具有关联关系;向所述目标机器发送数据访问请求;接收所述目标机器响应于所述数据访问请求返回的查询结果。相较于现有技术的缓存系统中强依赖meta服务的数据查询方法,本申请实施例通过公共服务系统中的数据分片的分片信息,就可以处理用户的数据查询需求,不需要在缓存系统中引入复杂的meta信息管理,实现较为简单。
可选的,还包括:在所述缓存系统中扩分片时,对于新增分片,将所述新增分片挂载到所述多个数据分片中的其中一个第一数据分片,将所述第一数据分片的数据与所述新增分片的数据互相补充,直到补充的第一数据分片的数据与补充后的新增分片的数据一致;重新确定所述第一数据分片的掩码区间,以及确定新增分片的标签掩码和新增分片的掩码区间;根据所述重新确定的第一数据分片的掩码区间、所述新增分片的标签掩码和所述新增分片的掩码区间,更新所述缓存系统中多个数据分片的分片信息。
本申请实施例中,通过将新增分片挂载在多个数据分片中的其中一个第一数据分片,并将第一数据分片的数据与新增分片的数据互相补充,直到补充的第一数据分片的数据与补充后的新增分片的数据一致,从而可以避免新增分片初始时无缓存数据或缓存数据较少造成的数据穿透。
可选的,还包括:在所述缓存系统中缩分片时,对于所述多个数据分片中执行缩分片的第二数据分片和第三数据分片,将所述第二数据分片的数据与所述第三数据分片的数据互相补充,直到补充的第二数据分片的数据与补充后的第三数据分片的数据一致;删除补充的第二数据分片或补充后的第三数据分片的任意一个,重新确定保留的数据分片的掩码区间;根据所述重新确定保留的数据分片的掩码区间,更新所述缓存系统中多个数据分片的分片信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010100000.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置