[发明专利]任务数据处理方法、装置、计算机设备和存储介质在审
申请号: | 201910817220.6 | 申请日: | 2019-08-30 |
公开(公告)号: | CN110597858A | 公开(公告)日: | 2019-12-20 |
发明(设计)人: | 杨越 | 申请(专利权)人: | 深圳壹账通智能科技有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/2458;G06F9/50 |
代理公司: | 44224 广州华进联合专利商标代理有限公司 | 代理人: | 杨欢 |
地址: | 518052 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实时处理 任务数据 终端发送 数据处理 内存 数据库 存储 读取 处理结果存储 数据查询请求 计算机设备 数据库读取 存储介质 结果存储 配置信息 业务请求 预先配置 预设 统计 拦截 分流 申请 | ||
1.一种任务数据处理方法,所述方法包括:
基于预设的统计任务对第一终端发送的业务请求进行拦截,得到任务数据;
确定预先配置的所述统计任务的任务等级;
根据所述任务等级的分流配置信息,将所述任务数据存储至内存进行实时处理,将实时处理的结果存储至内存;或存储至数据库进行批量处理,将批量处理的结果存储至数据库;
当接收到第二终端发送的数据查询请求时,在内存读取所述实时处理的结果,或在所述数据库读取所述批量处理的结果。
2.根据权利要求1所述的方法,其特征在于,所述基于预设的统计任务对第一终端发送的业务请求进行拦截之前,还包括:
获取第二终端预配置的统计需求信息;
识别所述统计需求信息对应的多个业务请求;
在所述业务请求对应的业务脚本中插入请求拦截脚本;
根据所述统计需求添加所述业务请求对应的任务标签及任务等级。
3.根据权利要求1所述的方法,其特征在于,所述将所述任务数据存储至内存进行实时处理包括:
将所述任务数据存储至内存;
根据任务等级确定所述内存中多个统计任务的处理次序;
按照所述处理次序将多个统计任务分发至集群内相应的服务节点,使所述服务节点对接收的统计任务的任务数据实时处理,将实时处理结果存储至内存。
4.根据权利要求3所述的方法,其特征在于,所述按照所述处理次序将多个统计任务分发至集群内相应的服务节点,包括:
计算所述统计任务的任务量,根据任务量确定统计任务的资源分配参数;
根据所述资源分配参数,将所述统计任务分配至集群内指定服务节点执行;
监测集群中每个服务节点在监控时段的性能指标;
根据所述性能指标对所述资源分配参数进行调整,并将统计任务调度至与调整后的资源分配参数相适应的物理资源执行。
5.根据权利要求4所述的方法,其特征在于,所述业务请求包含业务标识;所述根据所述性能指标对所述资源分配参数进行调整包括:
获取业务标识对应的初始的配置文件;所述配置文件记录了负载均衡策略;
基于所述性能指标对所述负载均衡策略进行调整,将调整后的负载均衡策略和相应业务标识存储至数据库;
调用文件转换组件在数据库中读取新增的负载均衡策略;
将读取到的负载均衡策略转换为所述业务标识当前对应的配置文件;
执行当前的配置文件,使调整后的负载均衡策略生效;
根据调整后的负载均衡策略,将所述统计任务分配至相应服务节点处理。
6.根据权利要求1所述的方法,其特征在于,所述将所述任务数据存储至数据库进行批量处理包括:
将所述统计任务存储至数据库;
获取所述数据库的空闲时间;
在所述数据库的空闲时间内对所述统计任务批量处理;
将批量处理结果存储至所述数据库。
7.一种任务数据处理装置,其特征在于,所述装置包括:
业务请求拦截模块,用于基于预设的统计任务对第一终端发送的业务请求进行拦截,得到任务数据;
任务数据分流模块,用于确定所述统计任务对应的任务等级;根据所述任务等级的分流配置信息,将所述任务数据存储至内存进行实时处理,或存储至数据库进行批量处理;
处理结果查询模块,用于当接收到第二终端发送的数据查询请求时,在内存读取所述实时处理的结果,或在所述数据库读取所述批量处理的结果。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括统计任务配置模块,用于获取第二终端预配置的统计需求信息;识别所述统计需求信息对应的多个业务请求;在所述业务请求对应的业务脚本中插入请求拦截脚本;根据所述统计需求添加所述业务请求对应的任务标签及任务等级。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司,未经深圳壹账通智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910817220.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于共享样本的在线聚集方法
- 下一篇:一种分页查询数据的方法和装置