[发明专利]数据同步方法、装置和服务器在审
申请号: | 201911238217.5 | 申请日: | 2019-12-05 |
公开(公告)号: | CN112925835A | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 王森 | 申请(专利权)人: | 北京金山云网络技术有限公司;北京金山云科技有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/27 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 张磊 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 同步 方法 装置 服务器 | ||
本发明提供了一种数据同步方法、装置和服务器,加载预先配置的配置信息;该配置信息包括数据源、以及该数据源中需要进行同步的数据的元数据;从该数据源中获取并缓存该元数据对应的目标数据;将该目标数据同步至预设的数据仓库中的,与该元数据相匹配的数据表中。该方法通过将数据源、以及该数据源中需要进行同步的数据的元数据等配置信息写入配置信息,进而基于该配置信息进行数据同步,当数据源或者元数据需要更新时,只需要更新相应的配置信息,不需要工程师手动修改用于数据同步的相关代码语句;该方式减少了人工的干预;从而提高了数据同步的灵活性和适应性。
技术领域
本发明涉及数据处理技术领域,尤其是涉及一种数据同步方法、装置和服务器。
背景技术
在数据仓库建设中,数据同步是一个重要的步骤。在数据同步的过程中,需要将来自业务系统、线上日志等多源异构的数据进行收集汇总,然后存储到数据仓库的ODS层的分区表;存储到数据仓库的数据用于支撑企业日常的全局应用的数据需求。相关技术中,可以采用Sqoop、Flume或Hive等组件完成上述数据同步的过程;具体可以根据业务系统需求,由工程师手动编写Sqoop、Flume或HQL语句实现数据同步,如果业务系统发生变化,还需要工程师修改用于数据同步的相关语句,因而该方式的人工干预较多,导致数据同步的灵活性和适应性较差。
发明内容
本发明的目的在于提供一种数据同步方法、装置和服务器,以提高数据同步的灵活性和适应性。
本发明提供的一种数据同步方法,所述方法包括:加载预先配置的配置信息;其中,所述配置信息包括数据源、以及所述数据源中需要进行同步的数据的元数据;从所述数据源中获取所述元数据对应的目标数据,缓存所述目标数据;将所述目标数据同步至预设的数据仓库中的,与所述元数据相匹配的数据表中。
进一步的,从所述数据源中获取所述元数据对应的目标数据的步骤,包括:加载预先配置的Spark函数算子;通过所述函数算子,从所述数据源中抽取所述元数据对应的目标数据。
进一步的,缓存所述目标数据的步骤,包括:对所述目标数据进行预处理,将预处理后的所述目标数据以矩阵数据表的形式缓存在内存中;其中,所述预处理包括:将所述目标数据转换成预设的数据类型,和/或,将所述目标数据的元数据的名称转换成预设的名称。
进一步的,所述元数据包括数据表名称、字段和所述字段的字段属性;将所述目标数据同步至预设的数据仓库中的,与所述元数据相匹配的数据表中的步骤,包括:如果预设的数据仓库中,不存在所述数据表名称对应的数据表,根据所述元数据创建数据表;将所述目标数据存储至创建的所述数据表中。
进一步的,将所述目标数据存储至创建的所述数据表中的步骤之前,所述方法还包括:如果存在所述数据表名称对应的数据表,且所述数据表中的字段与所述元数据中的字段不匹配,将所述数据表中的字段调整为所述元数据中的字段。
进一步的,将所述目标数据存储至创建的所述数据表中的步骤之前,所述方法还包括:如果所述数据表名称对应的数据表中,存在字段属性与所述元数据中字段属性不匹配的目标字段,将所述目标字段的字段属性调整为所述元数据中,所述目标字段的字段属性。
进一步的,将所述目标数据存储至创建的所述数据表中的步骤,包括:按照预设的分区规则,将所述目标数据划分为多个分区数据;采用并行的方式,将所述多个分区数据写入创建的所述数据表中。
进一步的,采用并行的方式,将所述多个分区数据写入创建的所述数据表中的步骤,包括:启动多个Spark执行器;多个所述执行器并行运行;其中,每个所述执行器读取该执行器对应的分区数据,将读取到的所述分区数据写入至创建的所述数据表中。
进一步的,将所述多个分区数据写入创建的所述数据表中的步骤之后,所述方法还包括:根据所述分区数据的数据量,将相邻的所述分区数据进行合并处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司;北京金山云科技有限公司,未经北京金山云网络技术有限公司;北京金山云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911238217.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置