[发明专利]一种基于Flink SQL的数据处理方法、装置、存储介质有效
申请号: | 201911318804.5 | 申请日: | 2019-12-19 |
公开(公告)号: | CN111026779B | 公开(公告)日: | 2023-10-17 |
发明(设计)人: | 王杰诚;郑少明;郑乐乐;郑汉军;许光锋 | 申请(专利权)人: | 厦门安胜网络科技有限公司 |
主分类号: | G06F16/242 | 分类号: | G06F16/242;G06F16/27;G06F16/215 |
代理公司: | 厦门福贝知识产权代理事务所(普通合伙) 35235 | 代理人: | 陈远洋 |
地址: | 361008 福建省厦门市软*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于Flink SQL的数据处理方法装置、存储介质,该方法包括:获取数据源中的待处理的数据并发送至SQL任务提交平台;在SQL任务提交平台中编写SQL语句对数据进行标准化的映射,并在SQL语句中定义数据源表、数据目标表,并为数据选择udf函数;SQL任务提交平台将编写好的SQL语句提交至Flink集群,Flink集群对所述SQL语句进行解析获得UDF函数、数据源表和数据目标表,所述Flink集群基于UDF函数、数据源表和数据目标表进行数据处理,并将处理后的数据输出。本发明提出了风格统一的SQL任务提交平台,使用语法简洁、易学易用的SQL语句来完成数据处理过程中的数据清洗等处理,方便非专业的工作人员进行数据处理,提高了用户体验。 | ||
搜索关键词: | 一种 基于 flink sql 数据处理 方法 装置 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门安胜网络科技有限公司,未经厦门安胜网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911318804.5/,转载请声明来源钻瓜专利网。