[发明专利]一种订单数据索引方法、系统、计算机设备以及存储介质在审
申请号: | 202111026637.4 | 申请日: | 2021-09-02 |
公开(公告)号: | CN113934713A | 公开(公告)日: | 2022-01-14 |
发明(设计)人: | 刘松森;王靖天;赵志刚 | 申请(专利权)人: | 广州伊的家网络科技有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/22;G06F16/242;G06F16/2455;G06F16/27;G06F16/28;G06F21/62;G06Q30/06 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 郑宏谋 |
地址: | 510000 广东省广州市番禺区东环*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 订单 数据 索引 方法 系统 计算机 设备 以及 存储 介质 | ||
本发明提供的一种订单数据索引方法、系统、计算机设备以及存储介质,方案方法包括:根据预设时间阈值,获取存储时长不大于所述时间阈值的第一订单数据;生成所述第一订单数据的日志文件,根据所述日志文件的主关键字对所述日志文件进行聚类得到数据服务层宽表;对所述数据服务层宽表划分得到若干分区;获取查询指令,根据所述查询指令在若干所述分区中通过所述主关键字进行索引,得到目标订单数据;方案通过列式存储以及分布式计算服务来提高订单数量过大情况下的订单数据查询慢的效率,相对于传统数据库,可以做到秒级实时查询,查询速度更快且响应速度更快,可广泛应用于计算机技术领域。
技术领域
本发明属于计算机技术领域,尤其是一种订单数据索引方法、系统、计算机设备以及存储介质。
背景技术
随着移动互联网的发展,人们拥有日益增多的网络购物需求。电商平台随着交易量以及业务逻辑不断复杂,订单和客户逻辑关系会产生大量的数据,在传统数据技术模式下,一般使用关系型数据库管理系统MySQL作为存储引擎。MySQL在数据量级较小的情况下,可以满足业务的正常扭转。但是在现有的数据查询的方案中,数据量一旦过大,则会出现查询速度变慢,数据产品响应速度迟缓,造成用户订单卡死,数据分析卡死等情况。
发明内容
有鉴于此,为至少部分解决上述技术问题之一,本发明实施例目的在于提供一种更为便捷、更为高效迅速的能够应对数据并发的订单数据索引方法、系统、设备以及存储介质。
第一方面,本申请的技术方案提供了一种订单数据索引方法,其步骤包括:
根据预设时间阈值,获取存储时长不大于所述时间阈值的第一订单数据;
生成所述第一订单数据的日志文件,根据所述日志文件的主关键字对所述日志文件进行聚类得到数据服务层宽表;
对所述数据服务层宽表划分得到若干分区;
获取查询指令,根据所述查询指令在若干所述分区中通过所述主关键字进行索引,得到目标订单数据。
在本申请方案的一种可行的实施例中,订单数据索引方法还包括:
获取存储时长大于所述时间阈值的第二订单数据,将所述第二订单数据进行离线清洗;
根据所述第二订单数据的第二字段属性与所述第一订单数据中第一字段属性的映射关系生成数据服务层宽表;
根据所述细节数据宽表中的订单数据进行聚类得到若干数据服务层宽表。
在本申请方案的一种可行的实施例中,所述生成所述第一订单数据的日志文件,根据所述日志文件的主关键字对所述日志文件进行聚类,包括以下步骤:
根据所述日志文件生成所述第一订单数据的原关键字,将所述原关键字与第一字符进行组合得到所述主关键字;
所述第一字符是通过所述第一订单数据的哈希值以及所述分区数量所计算得到的。
在本申请方案的一种可行的实施例中,在生成所述第一订单数据的日志文件,根据所述日志文件的主关键字对所述日志文件进行聚类得到数据服务层宽表这一步骤之前,所述方法还包括:
获取所述第一订单数据,对所述第一订单数据进行脱敏处理;
所述脱敏处理包括以下步骤:
将所述第一订单数据中的用户信息替换成符号字符串;
根据所述映射关系对所述第一订单数据中的字段进行筛选。
在本申请方案的一种可行的实施例中,在所述将离线清洗后的所述第二订单数据与所述第一订单数据构建得到细节数据宽表这一步骤之后,所述方法还包括以下步骤至少之一:
将所述细节数据宽表中的订单数据进行规范化处理,统一所述订单数据的数据格式;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州伊的家网络科技有限公司,未经广州伊的家网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111026637.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置