[发明专利]一种数据备份方法、装置和设备在审
申请号: | 202110762083.8 | 申请日: | 2021-07-06 |
公开(公告)号: | CN113342580A | 公开(公告)日: | 2021-09-03 |
发明(设计)人: | 沈贇;阳兵;唐家星 | 申请(专利权)人: | 中国工商银行股份有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 任默闻;王涛 |
地址: | 100140 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 备份 方法 装置 设备 | ||
本说明书实施例提供了一种数据备份方法、装置和设备,涉及大数据技术领域,其中,该方法包括:接收目标用户提交的备份请求;备份请求中包含待备份数据的属性信息、筛选字段列表以及过滤条件;基于筛选字段列表、过滤条件和所述待备份数据的属性信息生成建表的结构化查询语句;利用所述建表的结构化查询语句将所述待备份数据抽取至生成的中间表中;根据所述过滤条件对所述中间表中的数据进行预处理,并逐行将预处理后的数据传输至目标数据库中;其中,所述预处理包括:特殊字符过滤。在本说明书实施例中,可以在对数据导出时有效地处理待备份数据中的特殊字符,进而有效避免在数据备份时特殊字符所在数据行的字段位置解析错乱。
技术领域
本说明书实施例涉及大数据技术领域,特别涉及一种数据备份方法、装置和设备。
背景技术
大数据技术正在蓬勃发展,越来越多企业采用建设大数据服务平台以及通过数据入湖的方式对业务数据进行统一管理和存储。基于Hadoop技术的数据湖保留了数据的原始信息,对数据本身的标准性要求不高,但不同应用对数据的需求不一,存在着从数据湖中导出数据文件进行后续加工处理的需求。
现有技术中,数据库通常默认不处理原始数据,但是在实际应用中通常会遇到存储在数据湖的原始数据含有特殊字符(如换行符和终止符),未处理特殊字符直接导出数据文件以进行备份,在后续将文件导入到其他数据库系统时会出现特殊字符所在数据行的字段位置解析错乱的情况,从而产生负面影响。由此可见,采用现有技术中的技术方案无法确保准确地导出数据湖中的原始数据以进行备份。
针对上述问题,目前尚未提出有效的解决方案。
发明内容
本说明书实施例提供了一种数据备份方法、装置和设备,以解决现有技术中无法确保准确地导出数据湖中的原始数据以进行备份的问题。
本说明书实施例提供了一种数据备份方法,包括:接收目标用户提交的备份请求;其中,所述备份请求中包含待备份数据的属性信息、筛选字段列表以及过滤条件;基于所述筛选字段列表、过滤条件和所述待备份数据的属性信息生成建表的结构化查询语句;利用所述建表的结构化查询语句将所述待备份数据抽取至生成的中间表中;根据所述过滤条件对所述中间表中的数据进行预处理,并逐行将预处理后的数据传输至目标数据库中;其中,所述预处理包括:特殊字符过滤。
本说明书实施例还提供了一种数据备份装置,包括:接收模块,用于接收目标用户提交的备份请求;其中,所述备份请求中包含应用用户名、待备份数据的属性信息、筛选字段列表以及过滤条件;生成模块,用于基于所述筛选字段列表、过滤条件和所述待备份数据的属性信息生成建表的结构化查询语句;处理模块,用于利用所述建表的结构化查询语句将所述待备份数据抽取至生成的中间表中;传输模块,用于根据所述过滤条件对所述中间表中的数据进行预处理,并逐行将预处理后的数据传输至目标数据库中;其中,所述预处理包括:特殊字符过滤。
本说明书实施例还提供了一种数据备份设备,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器执行所述指令时实现所述数据备份方法的步骤。
本说明书实施例还提供了一种计算机可读存储介质,其上存储有计算机指令,所述指令被执行时实现所述数据备份方法的步骤。
本说明书实施例提供了一种数据备份方法,可以通过接收目标用户提交的备份请求;其中,所述备份请求中可以包含待备份数据的属性信息、筛选字段列表以及过滤条件。可以基于所述筛选字段列表、过滤条件和所述待备份数据的属性信息生成建表的结构化查询语句,利用所述建表的结构化查询语句将所述待备份数据抽取至生成的中间表中,从而可以得到需要备份的数据。进一步的,可以根据所述过滤条件对所述中间表中的数据进行预处理,并逐行将预处理后的数据传输至目标数据库中;其中,所述预处理可以包括:特殊字符过滤。从而可以在对数据导出时有效地处理待备份数据中的特殊字符,不丢失数据真实性和完整性,进而有效避免在数据备份时特殊字符所在数据行的字段位置解析错乱。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国工商银行股份有限公司,未经中国工商银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110762083.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高分辨率图片识别小目标的方法
- 下一篇:一种气管内径检测工具及其检测方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置