[发明专利]一种基于状态机的大数据任务处理方法及系统在审
申请号: | 201910786582.3 | 申请日: | 2019-08-23 |
公开(公告)号: | CN110647440A | 公开(公告)日: | 2020-01-03 |
发明(设计)人: | 秦凯新 | 申请(专利权)人: | 北京浪潮数据技术有限公司 |
主分类号: | G06F11/30 | 分类号: | G06F11/30;G06F9/50 |
代理公司: | 11227 北京集佳知识产权代理有限公司 | 代理人: | 柳欣 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 资源管理平台 大数据 任务处理 状态点 状态机 反馈处理 流转 算法 处理阶段 调度分配 结合状态 任务过程 数据处理 预先设置 触发 申请 场景 监测 监控 应用 | ||
1.一种基于状态机的大数据任务处理方法,其特征在于,所述方法应用于容器化场景下资源管理平台上的大数据任务处理;该方法预先将大数据任务的处理过程进行多个处理阶段的划分,根据各个处理阶段设置所述状态机中的对应的状态点;根据所述处理阶段之间的先后关系,确定状态点之间的状态转移关系;所述方法包括:
将所述状态机注入所述资源管理平台;
根据状态机的流转框架监控大数据任务的处理过程;其中,所述状态机的流转框架是依据全部状态点和全部状态转移关系建立的;
当任务处理阶段进行到某个状态点时,触发针对该状态点所预先设置的反馈处理算法进行资源的调取与分配并进行任务处理;
根据大数据任务的处理过程,进行当前所处的处理阶段对应的状态点的转移。
2.根据权利要求1所述的方法,其特征在于,所述全部状态点为:
至少包括对应于两个处理阶段的状态点:一个为对应于任务创建阶段的状态点;另一个为对应于任务结束或任务更新阶段的状态点。
3.根据权利要求1所述的方法,其特征在于,所述状态点为:与处理阶段一一对应的状态点。
4.根据权利要求1所述的方法,其特征在于,所述状态转移关系为:
一个状态点与下一个处理阶段对应的状态点之间建立的进行状态点转移的关系。
5.根据权利要求1所述的方法,其特征在于,所述流转框架为:包含至少一个可循环的处理过程的流转框架。
6.一种基于状态机的大数据任务处理系统,其特征在于,所述系统应用于容器化场景下资源管理平台上的大数据任务处理;该系统预先将大数据任务的处理过程进行多个处理阶段的划分,根据各个处理阶段设置所述状态机中的对应的状态点;根据所述处理阶段之间的先后关系,确定状态点之间的状态转移关系;所述系统包括:
状态机注入单元,用于将所述状态机注入到资源管理平台中;
任务进程监控单元,用于通过状态机的流转框架监控大数据任务的处理过程;其中,所述状态机的流转框架是依据全部状态点和全部状态转移关系建立的;
执行单元,用于在任务处理阶段进行到某个状态点时,执行在该状态点所预先设置的反馈处理算法,并且根据大数据任务的处理过程,进行当前所处的处理阶段对应的状态点的转移。
7.根据权利要求6所述的系统,其特征在于,在任务进程监控单元中,所述全部状态点为:
至少包括对应于两个处理阶段的状态点:一个为对应于任务创建阶段的状态点;另一个为对应于任务结束或任务更新阶段的状态点。
8.根据权利要求6所述的系统,其特征在于,在任务进程监控单元中,所述状态点为:与处理阶段一一对应的状态点。
9.根据权利要求6所述的系统,其特征在于,在任务进程监控单元中,所述状态转移关系为:
一个状态点与下一个处理阶段对应的状态点之间建立的进行状态点转移的关系。
10.根据权利要求6所述的系统,其特征在于,状态机设置单元中,所述流转框架为:包含至少一个可循环的处理过程的流转框架。
11.根据权利要求6所述的系统,其特征在于,所述系统还包括:报警单元:用于监测任务进程监控单元和执行单元,当监测任务进程监控单元或执行单元出现问题时进行警告。
12.根据权利要求6所述的系统,其特征在于,所述系统还包括:测试单元:用于测试状态机注入后是否可以正常运行。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京浪潮数据技术有限公司,未经北京浪潮数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910786582.3/1.html,转载请声明来源钻瓜专利网。