[发明专利]实时计算任务处理方法、装置、设备及存储介质在审
申请号: | 202110158610.4 | 申请日: | 2021-02-04 |
公开(公告)号: | CN112835924A | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 程成龙;康卫东 | 申请(专利权)人: | 北京高途云集教育科技有限公司 |
主分类号: | G06F16/242 | 分类号: | G06F16/242;G06F16/2455;G06F8/41 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 钟扬飞 |
地址: | 100094 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实时 计算 任务 处理 方法 装置 设备 存储 介质 | ||
1.一种实时计算任务处理方法,其特征在于,包括:
根据用户输入的业务指令,获取对应的任务文件,所述任务文件包括SQL语句定义的预设配置信息;
基于所述任务文件,生成实时计算任务;
执行所述实时计算任务。
2.根据权利要求1所述的方法,其特征在于,所述根据用户输入的业务指令,获取对应的任务文件,包括:
判断预设模板数据库中是否存在对应于所述业务指令的任务文件;
当预设模板数据库中存在对应于所述业务指令的任务文件时,获取所述任务文件。
3.根据权利要求2所述的方法,其特征在于,所述根据用户输入的业务指令,获取对应的任务文件,还包括:
当预设模板数据库中不存在对应于所述业务指令的任务文件时,获取用户配置信息,所述用户配置信息包括SQL语句定义的元数据信息、维表类型、维表加载策略和目标函数;
基于所述用户配置信息,生成所述任务文件。
4.根据权利要求1所述的方法,其特征在于,所述基于所述任务文件,生成实时计算任务,包括:
对所述任务文件中的SQL语句进行解析,得到多个语法树节点;
基于预设语法规则,对所述语法树节点进行校验,生成语法树;
将所述语法树转换成逻辑计划;
基于预设优化规则,对所述逻辑计划进行优化;
将优化后的所述逻辑计划转换成物理计划;
基于所述物理计划,生成所述实时计算任务。
5.根据权利要求4所述的方法,其特征在于,所述对所述任务文件中的SQL语句进行解析,包括:
通过正则匹配将所述SQL语句分为第一类型语句和第二类型语句;
解析所述第一类型语句,得到原始数据源与flink内部表的第一映射关系;
解析所述第二类型语句,得到原始数据源与flink内部表的第二映射关系;
基于所述第一映射关系和第二映射关系,生成数据血缘图。
6.根据权利要求1所述的方法,其特征在于,在所述执行所述实时计算任务之后,还包括:
监控所述实时计算任务的执行状态;
当所述实时计算任务失败时,按照预设方式发送告警信息。
7.一种实时计算任务处理装置,其特征在于,包括:
获取模块,用于根据用户输入的业务指令,获取对应的任务文件,所述任务文件包括SQL语句定义的预设配置信息;
生成模块,用于基于所述任务文件,生成实时计算任务;
执行模块,用于执行所述实时计算任务。
8.根据权利要求7所述的装置,其特征在于,还包括:
监控模块,用于监控所述实时计算任务的状态;
告警模块,用于当所述实时计算任务失败时,按照预设方式发送告警信息。
9.一种电子设备,其特征在于,包括:
存储器,用以存储计算机程序;
处理器,用以执行如权利要求1至6中任一项所述的方法。
10.一种非暂态电子设备可读存储介质,其特征在于,包括:程序,当其藉由电子设备运行时,使得所述电子设备执行权利要求1至6中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京高途云集教育科技有限公司,未经北京高途云集教育科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110158610.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有除臭抗菌功能的袜子的制备方法
- 下一篇:一种挖掘机整机稳定性优化方法