[发明专利]目标数据导入方法、介质、装置和计算设备有效
申请号: | 201911311712.4 | 申请日: | 2019-12-18 |
公开(公告)号: | CN111104450B | 公开(公告)日: | 2023-05-02 |
发明(设计)人: | 朱云杰;潘胜一 | 申请(专利权)人: | 杭州网易再顾科技有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/28 |
代理公司: | 北京市铸成律师事务所 11313 | 代理人: | 邓海鸿;阎敏 |
地址: | 310052 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标 数据 导入 方法 介质 装置 计算 设备 | ||
1.一种目标数据导入方法,其特征在于,包括:
对监听到的目标任务进行解析,得到所述目标任务对应的多个数据源;
为所述目标任务配置工作节点,所述工作节点用于从所述多个数据源获取目标数据,并将所述目标数据导入到所述目标任务对应的服务系统中;
其中,所述对监听到的目标任务进行解析之前,还包括:
获取所述目标任务对应的索引列字段,所述索引列字段是在所述多个数据源的数据字段中指定的,所述目标任务对应的索引列字段包括所述多个数据源中每个数据源对应的索引列字段;
根据所述目标任务对应的索引列字段确定所述多个数据源具有的共同字段,基于所述共同字段得到关联字段,所述关联字段用于对从所述多个数据源获取的目标数据进行合并操作;
根据所述目标任务对应的服务系统、所述索引列字段、所述索引列字段对应的数据源和所述关联字段创建所述目标任务。
2.根据权利要求1所述的方法,其特征在于,所述从所述多个数据源获取目标数据,包括:
获取第一数据源中包含所述索引列字段对应的第一离线数据的第一数据表;
按照预设周期从第二数据源中获取所述索引列字段对应的第二离线数据,在第一数据源中建立第二数据表,将所述第二离线数据存储到所述第二数据表中;
通过所述关联字段将所述第一数据表和所述第二数据表进行合并操作,得到联合数据,将所述联合数据作为所述目标数据。
3.根据权利要求2所述的方法,其特征在于,所述合并操作包括:
从所述第一数据表中获取所述关联字段对应的第一字段值,并从所述第二数据表中获取所述关联字段对应的第二字段值;
在所述第一字段值与所述第二字段值相同的情况下,将所述第一数据表中包含所述第一字段值的第一记录添加到所述第二数据表中包含所述
第二字段值的第二记录中。
4.根据权利要求2或3所述的方法,其特征在于,所述从所述多个数据源获取目标数据,还包括:
将获取所述第二离线数据之后更新的所述第二数据源中的所述索引列字段对应的实时数据添加到所述目标数据中。
5.根据权利要求4所述的方法,其特征在于,将实时数据添加到所述目标数据中,包括:
从消息系统获取所述实时数据,将获取的实时数据添加到所述目标数据中;其中,所述消息系统用于存取所述实时数据。
6.根据权利要求1至3中任一项所述的方法,其特征在于,所述工作节点包括数据源节点和数据消费节点,所述数据源节点用于从所述多个数据源获取目标数据,所述数据消费节点用于将所述目标数据导入到所述目标任务对应的服务系统中。
7.根据权利要求6所述的方法,其特征在于,所述数据源节点还用于:通过数据通道将所述目标数据发送给所述数据消费节点。
8.一种目标数据导入装置,其特征在于,包括:
解析单元,用于对监听到的目标任务进行解析,得到所述目标任务对应的多个数据源;
配置单元,用于为所述目标任务配置工作节点,所述工作节点用于从所述多个数据源获取目标数据,并将所述目标数据导入到所述目标任务对应的服务系统中;
其中,所述配置单元还用于:
获取所述目标任务对应的索引列字段,所述索引列字段是在所述多个数据源的数据字段中指定的,所述目标任务对应的索引列字段包括所述多个数据源中每个数据源对应的索引列字段;
根据所述目标任务对应的索引列字段确定所述多个数据源具有的共同字段,基于所述共同字段得到关联字段,所述关联字段用于对从所述多个数据源获取的目标数据进行合并操作;
根据所述目标任务对应的服务系统、所述索引列字段、所述索引列字
段对应的数据源和所述关联字段创建所述目标任务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州网易再顾科技有限公司,未经杭州网易再顾科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911311712.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置