[发明专利]一种应用于搜索服务的增量同步方法有效
申请号: | 201910343582.6 | 申请日: | 2019-04-26 |
公开(公告)号: | CN110245134B | 公开(公告)日: | 2021-07-06 |
发明(设计)人: | 陈海龙;王建新 | 申请(专利权)人: | 石化盈科信息技术有限责任公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/2455;G06F16/951;G06F16/953 |
代理公司: | 北京聿宏知识产权代理有限公司 11372 | 代理人: | 吴大建;张杰 |
地址: | 100007 北京市东城区东*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 应用于 搜索 服务 增量 同步 方法 | ||
1.一种应用于搜索服务的增量同步方法,其特征在于,包括:
获取数据库中各个表的变更数据及其相关信息,其中,该变更数据的相关信息包括:与每条变更数据对应的数据库的名称和该数据库中的表的名称、与每条变更数据对应的变更类型、以及每条变更数据在变更前后的所有字段值和主键值;
分别以第一预设存储方式和第二预设存储方式,将数据库中各个表的变更数据以键值对的方式存储到缓存器中;
其中,在所述第一预设存储方式中,键值对中的键为与当前变更数据对应的数据库中的表的名称和当前变更数据在变更后的主键值,键值对中的值为由当前变更数据在变更后的所有字段值组成的JSON格式数据;在所述第二预设存储方式中,键值对中的键为该表的名称、以及该表与其上游表之间的关联键的字段名和字段值,键值对中的值为与该关联键的字段值对应的主键值的集合;
利用哈希函数对与每条变更数据对应的数据库中的表的名称和每条变更数据在变更后的主键值进行处理,得到多组变更数据,其中,每组变更数据包括至少一条变更数据;
针对每组变更数据中的每条变更数据,依次执行以下操作:
根据与当前变更数据对应的数据库中的表的名称、以及与该表对应的索引配置信息,得到与该表对应的索引配置信息中包括的多个表中除该表之外的其余各表的数据,其中,该其余各表的数据包括:与该表对应的一级表的名称和主键值、以及与该表对应的索引配置信息中包括的多个表中除该表和与该表对应的一级表之外的其余表的名称和主键值;
利用哈希函数,对与该表对应的索引配置信息中包括的搜索引擎索引名称、以及与该表对应的索引配置信息中包括的多个表中除该表和与该表对应的一级表之外的其余表的主键值进行处理,得到多组变更数据,其中,每组变更数据包括至少一条变更数据;
针对每组变更数据中的每条变更数据,依次执行以下操作:
根据与当前变更数据对应的数据库中的表的名称,查询与该表对应的索引配置信息;
根据与该表对应的索引配置信息,从缓存器中查询利用与该表对应的索引配置信息中包括的搜索引擎索引名称配置的多个表的数据,并将该多个表的数据转换为JSON格式数据,调用搜索引擎的接口将该JSON格式数据写入到搜索引擎中,从而实现了从数据库到搜索引擎的增量同步。
2.根据权利要求1所述的应用于搜索服务的增量同步方法,其特征在于,以第一预设存储方式将数据库中各个表的变更数据以键值对的方式存储到缓存器中,包括:
根据当前变更数据的相关信息,将当前变更数据以键值对的方式存储到缓存器中。
3.根据权利要求2所述的应用于搜索服务的增量同步方法,其特征在于,以第二预设存储方式将数据库中各个表的变更数据以键值对的方式存储到缓存器中,包括:
根据与当前变更数据对应的数据库中的表的名称,查询与该表对应的索引配置信息,其中,与该表对应的索引配置信息包括:与该表对应的搜索引擎索引名称、利用该搜索引擎索引名称配置的多个表的数目、所述多个表中的每个表的名称、所述多个表中的每两个表之间的关联关系和关联键、所述多个表中的每个表配置的字段、以及与所述多个表中的每个表对应的数据源配置名称;
根据与该表对应的索引配置信息,将当前变更数据以键值对的方式存储到缓存器中。
4.根据权利要求3所述的应用于搜索服务的增量同步方法,其特征在于,利用哈希函数对与每条变更数据对应的数据库中的表的名称和每条变更数据在变更后的主键值进行处理,得到多组变更数据,包括:
利用哈希函数对与每条变更数据对应的数据库中的表的名称和每条变更数据在变更后的主键值进行处理,得到与每条变更数据对应的哈希值,其中,该哈希值为字符串形式;
根据与每条变更数据对应的哈希值的末位元素,将哈希值的末位元素相同的变更数据分为一组,得到多组变更数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于石化盈科信息技术有限责任公司,未经石化盈科信息技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910343582.6/1.html,转载请声明来源钻瓜专利网。