[发明专利]一种数据处理方法、装置及平台在审
申请号: | 201910297038.2 | 申请日: | 2019-04-12 |
公开(公告)号: | CN111813843A | 公开(公告)日: | 2020-10-23 |
发明(设计)人: | 王明亚;范鑫;刘星;肖胜鹏 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 冯德魁;窦晓慧 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 平台 | ||
1.一种数据处理方法,其特征在于,包括:
获得数据引擎信息;
获得与所述数据引擎信息适配的标准接口函数的信息;
根据所述与所述数据引擎信息适配的标准接口函数的信息,查找利用与所述数据引擎信息适配的标准接口函数生成的插件;
利用所述查找到的插件进行数据处理。
2.根据权利要求1所述的数据处理方法,其特征在于,所述获得与所述数据引擎信息适配的标准接口函数的信息,包括如下步骤中的至少一种:
获得与所述数据引擎信息适配的初始化阶段的标准接口函数的信息;
获得与所述数据引擎信息适配的准备阶段的标准接口函数的信息;
获得与所述数据引擎信息适配的执行阶段的标准接口函数的信息;
获得与所述数据引擎信息适配的完成阶段的标准接口函数的信息;
获得与所述数据引擎信息适配的清理阶段的标准接口函数的信息。
3.根据权利要求1所述的数据处理方法,其特征在于,所述根据所述与所述数据引擎信息适配的标准接口函数的信息,查找利用与所述数据引擎信息适配的标准接口函数生成的插件,包括:
获取数据同步的请求;
根据所述数据同步的请求以及所述与所述数据引擎信息适配的标准接口函数的信息,查找利用与所述数据引擎信息适配的标准接口函数生成的插件。
4.根据权利要求1所述的数据处理方法,其特征在于,所述数据引擎信息适配的标准接口函数生成的插件,包括如下插件中的至少一种:
用于数据抽取的读插件;
用于数据写入的写插件;
用于数据转换的转换插件。
5.根据权利要求4所述的数据处理方法,其特征在于,所述转换插件采用如下步骤实现数据转换:
获取指定的数据过滤规则;
根据所述指定的数据过滤规则,针对所述转换插件提供的数据进行过滤;
获得数据过滤后的目标数据。
6.根据权利要求4所述的数据处理方法,其特征在于,所述转换插件采用如下步骤实现数据转换:
获取指定的数据转换规则;
根据所述指定的数据转换规则,针对所述转换插件提供的数据进行转换;
获得数据转换后的目标数据。
7.根据权利要求1所述的数据处理方法,其特征在于,所述利用所述查找到的插件进行数据处理,包括:
利用所述查找到的插件,从源端抽取原始数据;
将所述原始数据写入所述数据引擎信息对应的数据引擎中。
8.根据权利要求1所述的数据处理方法,其特征在于,所述利用所述查找到的插件进行数据处理,包括:
从所述数据引擎信息对应的数据引擎中获取目标数据;
利用所述查找到的插件,将所述目标数据提供给目标计算设备。
9.根据权利要求1所述的数据处理方法,其特征在于,还包括:
获取用户的配置文件;
根据所述用户的配置文件,获得所述数据引擎信息对应的数据引擎需要执行的流程信息。
10.根据权利要求9所述的数据处理方法,其特征在于,所述根据所述用户的配置文件,获得所述数据引擎信息对应的数据引擎需要执行的流程信息,包括:
根据用户的有向无环图文件,获得所述数据引擎信息对应的数据引擎需要执行的流程信息;
或者,根据用户的JSON文件,获得所述数据引擎信息对应的数据引擎需要执行的流程信息。
11.根据权利要求5所述的数据处理方法,其特征在于,所述数据过滤规则包括基于Apriori机器学习的关联规则。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910297038.2/1.html,转载请声明来源钻瓜专利网。