[发明专利]一种数据处理的方法和装置在审
申请号: | 202010292476.2 | 申请日: | 2020-04-14 |
公开(公告)号: | CN111475489A | 公开(公告)日: | 2020-07-31 |
发明(设计)人: | 鲁飞 | 申请(专利权)人: | 北京思特奇信息技术股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/215 |
代理公司: | 北京汇信合知识产权代理有限公司 11335 | 代理人: | 王维新 |
地址: | 100086 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理的方法,其特征在于,包括:
接收数据管理表,在所述数据管理表中配置每个数据库分别对应的数据处理规则;
获取待处理数据库的信息;
基于所述待处理数据库的信息,确定所述数据管理表中与所述待处理数据库对应的数据处理规则并将该数据处理规则作为目标处理规则;
根据所述数据管理表中的目标处理规则,处理所述待处理数据库中的数据。
2.根据权利要求1所述的方法,其特征在于,根据所述数据管理表中的目标处理规则,处理所述待处理数据库中的数据,包括:
基于所述目标处理规则中的预设数据存储时限信息;
将所述待处理数据库中到达预设数据存储时限的历史数据和流水数据作为目标数据,对所述待处理数据库中的目标数据进行处理。
3.根据权利要求2所述的方法,其特征在于,对所述待处理数据库中的目标数据进行处理,包括:
将所述待处理数据库中的目标数据迁移至分布式文件系统中;
清理所述待处理数据库中的目标数据;
采集所述待处理数据库中目标数据在清理和迁移进程产生的日志数据。
4.根据权利要求3所述的方法,其特征在于,在将所述待处理数据库中的目标数据迁移至分布式文件系统中之前,还包括:
记录所述目标数据中表的基本信息、存储的时限和表类型。
5.一种数据处理的装置,其特征在于,包括:
配置模块,被配置为接收数据管理表,在所述数据管理表中配置每个数据库分别对应的数据处理规则;
获取模块,被配置为获取待处理数据库的信息;
确定模块,被配置为基于所述待处理数据库的信息,确定所述数据管理表中与所述待处理数据库对应的数据处理规则并将该数据处理规则作为目标处理规则;
处理模块,被配置为根据所述数据管理表中的目标处理规则,处理所述待处理数据库中的数据。
6.一种计算设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机指令,其特征在于,所述处理器执行所述指令时实现权利要求1-4任意一项所述方法的步骤。
7.一种存储介质,其存储有计算机指令,其特征在于,该指令被处理器执行时实现权利要求1-4任意一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京思特奇信息技术股份有限公司,未经北京思特奇信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010292476.2/1.html,转载请声明来源钻瓜专利网。