[发明专利]一种数据更新方法、装置、存储介质及电子设备在审
申请号: | 202010927867.7 | 申请日: | 2020-09-07 |
公开(公告)号: | CN112181979A | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 刘行;张桂贤;朱茵茵;王炜;陈超;张俊浩;张弓;王仲远 | 申请(专利权)人: | 北京三快在线科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/953 |
代理公司: | 北京曼威知识产权代理有限公司 11709 | 代理人: | 方志炜 |
地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 更新 方法 装置 存储 介质 电子设备 | ||
1.一种数据更新方法,其特征在于,分布式系统用于维护第一数据宽表,所述第一数据宽表依赖于至少一个数据源,所述至少一个数据源包括主数据源和非主数据源,所述方法包括:
针对所述第一数据宽表依赖的任一数据源,所述分布式系统接收该数据源发送的数据变更消息,其中,所述数据变更消息是该数据源中的数据在发生变更时发送的;
根据所述数据变更消息,确定该数据源中发生变更的数据的主键;
根据所述发生变更的数据的主键,确定所述主数据源中与所述发生变更的数据对应的数据,作为待更新数据;
确定所述主数据源中所述待更新数据的主键;
在所述第一数据宽表依赖的各数据源中,获取与所述待更新数据的主键对应的数据;
根据所述待更新数据的主键以及获取到的数据,更新所述第一数据宽表。
2.如权利要求1所述的方法,其特征在于,所述分布式系统预先订阅所述至少一个数据源的数据变更消息;
所述分布式系统接收该数据源发送的数据变更消息,具体包括:
所述分布式系统接收订阅的该数据源发送的数据变更消息。
3.如权利要求1所述的方法,其特征在于,确定所述主数据源中与所述发生变更的数据对应的数据,具体包括:
在所述主数据源中,确定与所述发生变更的数据的主键具有关联关系的数据,作为所述主数据源中与所述发生变更的数据对应的数据。
4.如权利要求1所述的方法,其特征在于,在所述第一数据宽表依赖的各数据源中,获取与所述待更新数据的主键对应的数据,具体包括:
根据所述发生变更的数据所在的数据源的优先级,将所述待更新数据的主键加入到所述优先级的队列中;
针对各队列,根据该队列的优先级,在所述第一数据宽表依赖的各数据源中,获取该队列中的主键对应的数据。
5.如权利要求4所述的方法,其特征在于,将所述待更新数据的主键加入到所述优先级的队列中之前,所述方法还包括:
确定所述优先级的队列中不存在所述待更新数据的主键。
6.如权利要求1所述的方法,其特征在于,在所述第一数据宽表依赖的各数据源中,获取与所述待更新数据的主键对应的数据,具体包括:
根据所述待更新数据的主键,确定所述待更新数据的主键对应的线程;
通过确定的所述线程,在所述第一数据宽表依赖的各数据源中,获取与所述待更新数据的主键对应的数据。
7.如权利要求1所述的方法,其特征在于,所述根据所述待更新数据的主键以及获取到的数据,更新所述第一数据宽表,具体包括:
根据所述待更新数据的主键以及获取到的数据,以当前时间为所述待更新数据的主键对应的数据的时间戳更新所述第一数据宽表。
8.如权利要求1所述的方法,其特征在于,当所述主数据源发生变更时,所述第一数据宽表为新建的数据宽表,所述方法还包括:
获取所述所有数据源中未发生变更的数据,以开始获取所述所有数据源中未发生变更的数据的时间为所有数据源数据的时间戳更新所述第一数据宽表。
9.根据权利要求1所述的方法,其特征在于,当所述非主数据源发生变更时,所述第一数据宽表为基于第二数据宽表的快照创建的数据宽表,所述方法还包括:
将发生变更的非主数据源作为变更数据源,并从所述变更数据源中,获取未发生变更的数据,作为离线数据;
以开始获取所述离线数据的时间为所述变更数据源的数据的时间戳更新所述第一数据宽表。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010927867.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种窗帘挂钩钢丝成型机构
- 下一篇:合规审核方法、装置和设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置