[发明专利]一种可配置的自动化解析方法和装置在审
申请号: | 202210110365.4 | 申请日: | 2022-01-29 |
公开(公告)号: | CN114528041A | 公开(公告)日: | 2022-05-24 |
发明(设计)人: | 杨晓晨 | 申请(专利权)人: | 杭州火树科技有限公司 |
主分类号: | G06F9/445 | 分类号: | G06F9/445;G06F8/41 |
代理公司: | 杭州天勤知识产权代理有限公司 33224 | 代理人: | 曹兆霞 |
地址: | 310013 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 配置 自动化 解析 方法 装置 | ||
1.一种可配置的自动化解析方法,其特征在于,包括:
将形成数据接入工作流的数据读取步骤、数据解析步骤以及数据写入步骤节点化,形成数据读取节点、数据解析节点以及数据写入节点;
提供包括数据读取节点、数据解析节点以及数据写入节点的配置文件;
根据数据类型从配置文件中选择适配数据类型和需求的数据读取节点、数据解析节点以及数据写入节点的配置参数;
以spark计算引擎为基础,根据选择分别从配置文件中加载数据读取节点、数据解析节点以及数据写入节点的配置参数,并结合数据接入工作流的内在逻辑图参数,实现数据的自动化解析。
2.根据权利要求1所述的可配置的自动化解析方法,其特征在于,在进行数据的自动化解析时,通过Akka Actor消息作为节点的配置参数的加载驱动,依次加载读取节点、解析节点以及写入节点的配置参数,实现数据的自动化解析。
3.根据权利要求2所述的可配置的自动化解析方法,其特征在于,通过Akka Actor消息作为节点的配置参数的加载驱动时,根据当前节点的Akka Actor消息反馈的配置参数情况,驱动加载后续节点的配置参数;
当Akka Actor消息反馈的配置参数情况为成功时,驱动加载后续节点的配置参数;
当Akka Actor消息反馈的配置参数情况为错误时,停止驱动加载后续节点的配置参数。
4.根据权利要求1所述的可配置的自动化解析方法,其特征在于,所述数据读取节点的配置文件包括WebService接口数据接入参数、HTTP接口数据接入参数、DB接口数据接入参数、Kafka数据接入参数、游标数据接入参数、文件接入参数、存储过程数据接入参数。
5.根据权利要求1所述的可配置的自动化解析方法,其特征在于,所述数据解析节点的配置文件包括XML解析工具、JSON解析工具、HL7解析工具以及字段映射解析工具。
6.根据权利要求1所述的可配置的自动化解析方法,其特征在于,所述数据写入节点的配置文件包括Oracle数据库、Csv文件类型、Console数据测试。
7.一种可配置的自动化解析装置,其特征在于,包括:
节点化模块,用于将形成数据接入工作流的数据读取步骤、数据解析步骤以及数据写入步骤节点化,形成数据读取节点、数据解析节点以及数据写入节点;
配置文件模块,用于提供包括数据读取节点、数据解析节点以及数据写入节点的配置文件;
配置模块,根据数据类型从配置文件中选择适配数据类型和需求的数据读取节点、数据解析节点以及数据写入节点的配置参数;
解析模块,用于以spark计算引擎为基础,根据选择分别从配置文件中加载数据读取节点、数据解析节点以及数据写入节点的配置参数,并结合数据接入工作流的内在逻辑图参数,实现数据的自动化解析。
8.根据权利要求7所述的可配置的自动化解析装置,其特征在于,解析模块中,在进行数据的自动化解析时,通过Akka Actor消息作为节点的配置参数的加载驱动,依次加载读取节点、解析节点以及写入节点的配置参数,实现数据的自动化解析。
9.一种可配置的自动化解析装置,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上执行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现以下步骤:
步骤1,根据数据类型从配置文件中选择适配数据类型和需求的数据读取节点、数据解析节点以及数据写入节点的配置参数;
所述配置文件包括数据读取节点、数据解析节点以及数据写入节点的配置参数;
步骤2,根据数据类型从配置文件中选择适配数据类型和需求的数据读取节点、数据解析节点以及数据写入节点的配置参数;
步骤3,以spark计算引擎为基础,根据选择分别从配置文件中加载数据读取节点、数据解析节点以及数据写入节点的配置参数,并结合数据接入工作流的内在逻辑图参数,实现数据的自动化解析。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州火树科技有限公司,未经杭州火树科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210110365.4/1.html,转载请声明来源钻瓜专利网。