[发明专利]数据处理方法、装置及电子设备有效
申请号: | 201910088051.7 | 申请日: | 2019-01-29 |
公开(公告)号: | CN111488340B | 公开(公告)日: | 2023-09-12 |
发明(设计)人: | 薛巍 | 申请(专利权)人: | 菜鸟智能物流控股有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/245 |
代理公司: | 广州铸智知识产权代理有限公司 44886 | 代理人: | 徐瑞红 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 | ||
1.一种数据处理方法,包括:
获取数据库中经水平切分的原始数据,并将所述原始数据进行聚合形成一个中间状态数据表;所述切分后的原始数据包括至少一个主表和至少一个附表;所述中间状态数据表将同一主表主键的附表中的属性聚合在一起;
将所述中间状态数据表中的数据同步到预置搜索引擎中,并对该数据设置索引。
2.根据权利要求1所述的方法,其中,所述原始数据包括主表数据和附表数据,所述将所述原始数据进行聚合形成一个中间状态数据表包括:
在所述主表中增加一个多值列字段;
将与所述主表所属同一主键的附表中的扩展属性以键值形式写入该多值列字段中的对应位置。
3.根据权利要求2所述的方法,其中,所述将所述中间状态数据表中的数据同步到预置搜索引擎中,并对该数据设置索引包括:
将所述多值列字段中的数据按键值进行拆分后同步至搜索引擎,并提取指定键名对应的拓展属性设置倒排索引。
4.根据权利要求2所述的方法,其中,所述方法还包括:
获取所述主表数据和所述附表数据的增量数据,并将所述增量数据同步更新到所述中间状态数据表中。
5.根据权利要求1-4中任一项所述的方法,其中,所述方法还包括:
响应于包含至少一个维度的搜索条件的数据查询请求,调用搜索引擎基于预置索引进行目标数据搜索,并返回搜索结果。
6.根据权利要求1所述的方法,其中,所述数据库包括:关系型数据库。
7.一种数据处理装置,包括:
数据获取模块,用于获取数据库中经水平切分的原始数据,并将所述原始数据进行聚合形成一个中间状态数据表;所述切分后的原始数据包括至少一个主表和至少一个附表;所述中间状态数据表将同一主表主键的附表中的属性聚合在一起;
同步索引模块,用于将所述中间状态数据表中的数据同步到预置搜索引擎中,并对该数据设置索引。
8.根据权利要求7所述的装置,其中,所述原始数据包括主表数据和附表数据,所述数据获取模块包括:
字段设置单元,用于在所述主表中增加一个多值列字段;
数据写入单元,用于将与所述主表所属同一主键的附表中的扩展属性以键值形式写入该多值列字段中的对应位置。
9.根据权利要求8所述的装置,其中,所述同步索引模块用于,
将所述多值列字段中的数据按键值进行拆分后同步至搜索引擎,并提取指定键名对应的拓展属性设置倒排索引。
10.根据权利要求8所述的装置,其中,所述装置还包括:
数据更新模块,用于获取所述主表数据和所述附表数据的增量数据,并将所述增量数据同步更新到所述中间状态数据表中。
11.根据权利要求7-10中任一项所述的装置,其中,所述装置还包括:
数据查询模块,用于响应于包含至少一个维度的搜索条件的数据查询请求,调用搜索引擎基于预置索引进行目标数据搜索,并返回搜索结果。
12.根据权利要求7所述的装置,其中,所述数据库包括:关系型数据库。
13.一种电子设备,包括:
存储器,用于存储程序;
处理器,耦合至所述存储器,用于执行所述程序,所述程序运行时执行权利要求1-6中任意一项权利要求所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于菜鸟智能物流控股有限公司,未经菜鸟智能物流控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910088051.7/1.html,转载请声明来源钻瓜专利网。