[发明专利]一种批量数据处理方法及装置在审
申请号: | 201910562584.4 | 申请日: | 2019-06-26 |
公开(公告)号: | CN110275767A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 孙桂坤 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 黄志华 |
地址: | 518027 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 状态修改 数据处理 标识信息 任务请求 任务执行 任务执行成功 数据处理周期 数据通信网络 数据管理区 节点处理 科技领域 有效减少 运维 金融 开发 | ||
1.一种批量数据处理方法,其特征在于,应用于分布式资源处理系统,所述方法包括:
在数据管理区获取到批量数据处理任务请求后,若根据所述任务请求中的任务标识信息确定当前批量数据处理周期内未执行过所述任务后,则针对所述任务请求确定任务执行标识信息,将所述任务的状态修改为正在执行中;
若确定所述任务需要发送到数据通信网络DCN区,则根据所述任务执行标识信息确定所述DCN区中是否存在DCN节点正在执行所述任务;
若确定所述DCN区中不存在DCN节点正在执行所述任务,则将所述任务发送给所述DCN区中的至少一个DCN节点,以使所述DCN节点处理所述任务,并将所述DCN节点的执行状态修改为正在执行中;
若确定DCN区中执行所述任务的DCN节点都已经完成任务,则将所述任务的状态修改为任务执行成功。
2.根据权利要求1所述的方法,其特征在于,所述根据所述任务请求中的任务标识信息确定当前批量数据处理周期内未执行过所述任务,包括:
若确定所述第一数据表中在当前批量数据处理周期内未查找到所述任务标识信息,则确定当前批量数据处理周期内未执行过所述任务,所述第一数据表用于记录不同批量数据处理周期内执行过的批量数据处理任务的任务标识信息。
3.根据权利要求1或2所述的方法,其特征在于,所述确定所述DCN区中不存在DCN节点正在执行所述任务,包括:
若在数据管理区的第二数据表中未查找到所述任务执行标识信息,且在数据管理区的第三数据表中未查找到所述任务执行标识信息,则确定所述DCN区中不存在DCN节点正在执行所述任务,所述第二数据表用于记录不同批量数据处理周期内执行过的任务执行标识信息、所述任务执行标识信息对应的各DCN节点以及各DCN节点的任务执行状态,所述第三数据表用于记录在不同批量数据处理周期内执行过的任务执行标识信息以及向所述任务执行标识信息对应的各DCN节点发送批量数据处理任务通知的数量。
4.根据权利要求3所述的方法,其特征在于,所述若在数据管理区的第二数据表中未查找到所述任务执行标识信息,且在数据管理区的第三数据表中未查找到所述任务执行标识信息后,确定所述DCN区中不存在DCN节点正在执行所述任务前,还包括:
确定DCN区中每个DCN节点的第四数据表中未查找到所述任务执行标识信息,所述第四数据表用于记录每个DCN节点针对不同的任务执行标识信息对应的批量数据处理任务的任务执行状态。
5.根据权利要求2所述的方法,其特征在于,所述方法还包括:
若确定所述第一数据表中在当前批量数据处理周期内能够查询到所述任务标识信息,则确定所述任务标识信息对应的任务执行状态;
若确定所述任务执行状态为任务失败,则执行确定所述批量数据处理任务是否需要发送到数据通信网络DCN区的步骤,并将所述批量数据处理任务的状态修改为正在执行中。
6.根据权利要求3所述的方法,其特征在于,所述方法还包括:
若在数据管理区的第二数据表中查找到所述任务执行标识信息,则确定所述任务执行标识信息对应的各DCN节点中任务执行状态为失败状态的DCN节点;
将所述第二数据表中任务执行状态为失败状态的DCN节点的任务执行状态修改为正在执行中,并执行在数据管理区的第三数据表中是否能够查找到所述任务执行标识信息的步骤。
7.根据权利要求4所述的方法,其特征在于,所述若确定DCN区中执行所述批量数据处理任务的节点都已经完成任务,则将所述批量数据处理任务的状态修改为任务执行成功,包括:
若确定DCN区中执行所述批量数据处理任务的任一个DCN节点已执行完成任务,则将所述第四数据表中该DCN节点的状态修改为已完成,并将所述第三数据表中的向所述任务执行标识信息对应的各DCN节点发送批量数据处理任务通知的数量进行递减;
若确定所述第三数据表中的向所述任务执行标识信息对应的各DCN节点发送批量数据处理任务通知的数量为零时,则确定DCN区中执行所述批量数据处理任务的DCN节点都已经完成任务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910562584.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种任务处理方法及装置
- 下一篇:数据处理方法、装置及电子设备