[发明专利]一种基于大数据技术的多源数据集成方法及其系统有效
申请号: | 202110422153.5 | 申请日: | 2021-04-20 |
公开(公告)号: | CN113051332B | 公开(公告)日: | 2023-04-28 |
发明(设计)人: | 章志容;李实;彭添才 | 申请(专利权)人: | 东莞盟大集团有限公司;东莞市盟大数据科技有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/22;G06F16/2453;G06F16/2455;G06F16/2458 |
代理公司: | 广东莞信律师事务所 44332 | 代理人: | 梁年顺 |
地址: | 523000 广东省东莞市南城*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 数据 技术 集成 方法 及其 系统 | ||
1.一种基于大数据技术的多源数据集成方法,其特征在于,包括:
用户通过业务端处理装置发起数据查询请求,生成数据查询请求表;
接口处理装置接收和分析数据查询请求,根据分析结果确定是否对数据查询请求生成新的数据调取请求并记入数据调取请求表,判断对应的数据获取渠道,通过相应渠道获取对应的数据并发送给大数据集群装置;建立数据关联关系并进行存储,包括,将业务端处理装置的数据查询请求表与接口处理装置的数据调取请求表进行关联;将获取到的数据与数据调取请求表中的对应数据调取请求建立关联;将数据结果与数据调取请求表中的对应数据调取请求建立关联;将数据结果通过数据调取请求表与对应的数据查询请求建立关联;从任务监测装置读取数据调取请求的相关规则条件,根据规则条件对数据关系建立关联,并存储该数据关联关系;
大数据集群装置实时执行数据流,形成和存储对应的数据结果,进行数据关联:接收来自接口处理装置的数据及数据调取请求表,对数据进行解析处理,处理成业务端所需要的以及可接受的数据结果,存储该数据结果,将结果状态记入数据调取请求表,并将该数据结果与数据调取请求表的对应数据调取请求建立数据关联;
任务监测装置实时监测数据状态,根据预先设定的触发条件及其处理机制,触发执行相应的处理机制。
2.根据权利要求1所述的多源数据集成方法,其特征在于,分析数据查询请求,建立数据关联关系,包括,判断所述数据查询请求是否有生成过数据结果,若是,则直接调取对应的数据结果,并将数据结果与所述数据查询请求进行关联;若否,则判断数据调取请求表中是否关联有相同的数据查询请求,如有,则将所述数据查询请求与数据调取请求表的相同数据查询请求进行关联;如没有,则在数据调取请求表中对应所述数据查询请求生成新的数据调取请求。
3.根据权利要求2所述的多源数据集成方法,其特征在于,在判断所述数据查询请求是否有生成过数据结果之前,还包括,分析所述用户是否发起过相同的数据查询请求,如是,则触发用户选择发起最新数据查询请求或者查看历史查询的数据结果;若用户选择发起最新数据查询请求,则判断所述数据查询请求是否有生成过数据结果;若用户选择查看历史查询的数据结果,则触发调取历史查询的数据结果;如否,则继续判断所述数据查询请求是否有生成过数据结果。
4.根据权利要求3所述的多源数据集成方法,其特征在于,调取历史查询的数据结果,包括,触发业务端处理装置判断是否在业务端存有所述历史查询的数据结果,若是,则触发从业务端调取数据结果并展示;若否,则触发接口处理装置向大数据集群装置请求调取所述历史查询的数据结果。
5.根据权利要求1所述的多源数据集成方法,其特征在于,分析数据查询请求,还包括,判断用户是否获得数据查询请求的对象的授权,将授权数据与数据查询请求表中的对应数据查询请求进行关联,并通过数据查询请求表与数据调取请求表中的对应数据调取请求进行关联。
6.根据权利要求1所述的多源数据集成方法,其特征在于,还包括,大数据集群装置筛选出数据获取成功的数据调取请求,对其关联的数据实时执行数据流,形成对应的数据结果并存储,将数据结果与对应的数据调取请求进行关联。
7.根据权利要求1所述的多源数据集成方法,其特征在于,任务监测装置实时监测数据状态,根据预先设定的触发条件及其处理机制,触发执行相应的处理机制,包括,任务监测装置实时监测业务端处理装置的数据查询请求表、以及接口处理装置和大数据集群装置的数据调取请求表中标记的数据状态,根据预先设定的触发条件及其处理机制,触发对应装置执行相应的处理机制。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东莞盟大集团有限公司;东莞市盟大数据科技有限公司,未经东莞盟大集团有限公司;东莞市盟大数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110422153.5/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置