[发明专利]数据同步方法、装置和服务器在审

专利信息
申请号: 201911238217.5 申请日: 2019-12-05
公开(公告)号: CN112925835A 公开(公告)日: 2021-06-08
发明(设计)人: 王森 申请(专利权)人: 北京金山云网络技术有限公司;北京金山云科技有限公司
主分类号: G06F16/25 分类号: G06F16/25;G06F16/27
代理公司: 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 代理人: 张磊
地址: 100000 北京*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 同步 方法 装置 服务器
【说明书】:

发明提供了一种数据同步方法、装置和服务器,加载预先配置的配置信息;该配置信息包括数据源、以及该数据源中需要进行同步的数据的元数据;从该数据源中获取并缓存该元数据对应的目标数据;将该目标数据同步至预设的数据仓库中的,与该元数据相匹配的数据表中。该方法通过将数据源、以及该数据源中需要进行同步的数据的元数据等配置信息写入配置信息,进而基于该配置信息进行数据同步,当数据源或者元数据需要更新时,只需要更新相应的配置信息,不需要工程师手动修改用于数据同步的相关代码语句;该方式减少了人工的干预;从而提高了数据同步的灵活性和适应性。

技术领域

本发明涉及数据处理技术领域,尤其是涉及一种数据同步方法、装置和服务器。

背景技术

在数据仓库建设中,数据同步是一个重要的步骤。在数据同步的过程中,需要将来自业务系统、线上日志等多源异构的数据进行收集汇总,然后存储到数据仓库的ODS层的分区表;存储到数据仓库的数据用于支撑企业日常的全局应用的数据需求。相关技术中,可以采用Sqoop、Flume或Hive等组件完成上述数据同步的过程;具体可以根据业务系统需求,由工程师手动编写Sqoop、Flume或HQL语句实现数据同步,如果业务系统发生变化,还需要工程师修改用于数据同步的相关语句,因而该方式的人工干预较多,导致数据同步的灵活性和适应性较差。

发明内容

本发明的目的在于提供一种数据同步方法、装置和服务器,以提高数据同步的灵活性和适应性。

本发明提供的一种数据同步方法,所述方法包括:加载预先配置的配置信息;其中,所述配置信息包括数据源、以及所述数据源中需要进行同步的数据的元数据;从所述数据源中获取所述元数据对应的目标数据,缓存所述目标数据;将所述目标数据同步至预设的数据仓库中的,与所述元数据相匹配的数据表中。

进一步的,从所述数据源中获取所述元数据对应的目标数据的步骤,包括:加载预先配置的Spark函数算子;通过所述函数算子,从所述数据源中抽取所述元数据对应的目标数据。

进一步的,缓存所述目标数据的步骤,包括:对所述目标数据进行预处理,将预处理后的所述目标数据以矩阵数据表的形式缓存在内存中;其中,所述预处理包括:将所述目标数据转换成预设的数据类型,和/或,将所述目标数据的元数据的名称转换成预设的名称。

进一步的,所述元数据包括数据表名称、字段和所述字段的字段属性;将所述目标数据同步至预设的数据仓库中的,与所述元数据相匹配的数据表中的步骤,包括:如果预设的数据仓库中,不存在所述数据表名称对应的数据表,根据所述元数据创建数据表;将所述目标数据存储至创建的所述数据表中。

进一步的,将所述目标数据存储至创建的所述数据表中的步骤之前,所述方法还包括:如果存在所述数据表名称对应的数据表,且所述数据表中的字段与所述元数据中的字段不匹配,将所述数据表中的字段调整为所述元数据中的字段。

进一步的,将所述目标数据存储至创建的所述数据表中的步骤之前,所述方法还包括:如果所述数据表名称对应的数据表中,存在字段属性与所述元数据中字段属性不匹配的目标字段,将所述目标字段的字段属性调整为所述元数据中,所述目标字段的字段属性。

进一步的,将所述目标数据存储至创建的所述数据表中的步骤,包括:按照预设的分区规则,将所述目标数据划分为多个分区数据;采用并行的方式,将所述多个分区数据写入创建的所述数据表中。

进一步的,采用并行的方式,将所述多个分区数据写入创建的所述数据表中的步骤,包括:启动多个Spark执行器;多个所述执行器并行运行;其中,每个所述执行器读取该执行器对应的分区数据,将读取到的所述分区数据写入至创建的所述数据表中。

进一步的,将所述多个分区数据写入创建的所述数据表中的步骤之后,所述方法还包括:根据所述分区数据的数据量,将相邻的所述分区数据进行合并处理。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司;北京金山云科技有限公司,未经北京金山云网络技术有限公司;北京金山云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911238217.5/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code