[发明专利]数据导出方法、装置、存储介质及电子设备在审
申请号: | 201910032532.6 | 申请日: | 2019-01-14 |
公开(公告)号: | CN111435354A | 公开(公告)日: | 2020-07-21 |
发明(设计)人: | 张恒;高纪刚 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 袁礼君;阚梓瑄 |
地址: | 100086 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 导出 方法 装置 存储 介质 电子设备 | ||
本公开涉及一种数据导出方法、数据导出装置、计算机可读存储介质及电子设备,本公开实施例中的数据导出方法包括:接收数据导出请求,并根据所述数据导出请求在任务队列中创建数据导出任务;调整所述任务队列中待处理的各个所述数据导出任务的处理顺序;按照所述处理顺序并行处理所述任务队列中的部分或者全部的所述数据导出任务;通过处理所述数据导出任务得到导出数据,并将所述导出数据返回给所述数据导出请求的发送方。本公开实施例提供的数据导出方法可以调整任务处理顺序,避免任务量过多的情况下对数据库及服务器造成过大的压力,提高服务器资源的利用率和任务处理效率。
技术领域
本公开涉及计算机技术领域,具体涉及一种数据导出方法、数据导出装置、计算机可读存储介质及电子设备。
背景技术
现有的数据分析平台在处理数据导出任务时,一般是直接从数据源获取数据,在服务器内存中生成数据文档后向用户返回文件数据。当数据量较小并且使用人数较少时,服务器内存压力并不明显。但是,随着数据库数据量以及不确定时间的随机导出数据任务量不断地增加,服务器内存使用量不规律暴增。在服务器内存压力过大的情况下,甚至会引起内存溢出,从而导致所有的数据导出任务失败。由此可见,如何平衡大数据量的数据导出请求和服务器内存压力是目前亟待解决的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种数据导出方法、数据导出装置、计算机可读存储介质及电子设备,进而至少在一定程度上克服数据导出任务量大、服务器内存压力大、用户体验差等技术问题。
根据本公开的一个方面,提供一种数据导出方法,其特殊之处在于,包括:
接收数据导出请求,并根据所述数据导出请求在任务队列中创建数据导出任务;
调整所述任务队列中待处理的各个所述数据导出任务的处理顺序;
按照所述处理顺序并行处理所述任务队列中的部分或者全部的所述数据导出任务;
通过处理所述数据导出任务得到导出数据,并将所述导出数据返回给所述数据导出请求的发送方。
在本公开的一种示例性实施方式中,根据所述数据导出请求在任务队列中创建数据导出任务,包括:
根据所述数据导出请求确定数据导出模式;
在与所述数据导出模式相匹配的任务队列中创建数据导出任务。
在本公开的一种示例性实施方式中,调整所述任务队列中待处理的各个数据导出任务的处理顺序,包括:
获取所述任务队列中待处理的各个数据导出任务的顺序调整参数;
根据所述顺序调整参数调整各个所述数据导出任务的处理顺序。
在本公开的一种示例性实施方式中,所述顺序调整参数包括任务创建时间、任务优先级和/或用户优先级。
在本公开的一种示例性实施方式中,按照所述处理顺序并行处理所述任务队列中的部分或者全部的数据导出任务,包括:
获取当前并行处理的数据导出任务的任务数量;
当所述任务数量小于一预设数量时,按照所述处理顺序从所述任务队列中依次调取并处理所述数据导出任务,直至所述任务数量等于所述预设数量。
在本公开的一种示例性实施方式中,通过处理所述数据导出任务得到导出数据,包括:
根据所述数据导出任务从数据库中获取待导出数据的数据信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910032532.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置