[发明专利]数据处理方法及装置在审
申请号: | 202210445104.8 | 申请日: | 2022-04-26 |
公开(公告)号: | CN114780529A | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 顾超;刘立力 | 申请(专利权)人: | 湖南快乐阳光互动娱乐传媒有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/22;G06F16/2455;G06F11/30 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 李伟 |
地址: | 410003 湖南省*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种数据处理方法及装置,该方法包括:接收数据清洗任务;获取数据清洗任务对应的数据来源信息和数据输出信息;获取FLinkSQL脚本,并应用FLinkSQL脚本对数据来源信息对应的第一数据流和数据输出信息对应的第二数据流进行数据清洗;启用任务监控模块对数据清洗过程进行实时监控以确定是否存在任务积压;当不存在任务积压,获取清洗结果,判断清洗结果是否满足清洗条件;当满足清洗条件,将清洗结果发送至Flink集群,通过Flink集群存储并输出清洗结果。应用本发明提供的方法,可以应用FlinkSQL脚本实现自动化清洗,并且对清洗过程进行监控,减少人工参与,提高数据处理的效率和用户体验。 | ||
搜索关键词: | 数据处理 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南快乐阳光互动娱乐传媒有限公司,未经湖南快乐阳光互动娱乐传媒有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210445104.8/,转载请声明来源钻瓜专利网。