[发明专利]数据清洗方法、装置、存储介质及电子设备在审
申请号: | 202310296656.1 | 申请日: | 2023-03-22 |
公开(公告)号: | CN116226112A | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 库生玉;严晗;潘登;陈泽华;彭一轩;何幼玲;郑凤英;陈凯;孙三新;代飞亚;张冲;杨华;陈卫 | 申请(专利权)人: | 远光软件股份有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/25 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 周春枚 |
地址: | 519000 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 清洗 方法 装置 存储 介质 电子设备 | ||
1.一种数据清洗方法,其特征在于,包括:
响应目标对象对多个操作节点的操作命令,生成第一流程图,其中,每个操作节点用于执行所述第一流程图对应的目标数据清洗任务的至少一项操作,所述第一流程图表征所述多个操作节点的执行顺序;
根据所述第一流程图,确定所述目标数据清洗任务的清洗规则,其中,所述清洗规则至少包括所述多个操作节点的运行规则;
基于所述清洗规则,对所述目标数据清洗任务对应的源数据集进行数据清洗处理,得到目标清洗结果,其中,所述目标清洗结果表征所述数据清洗处理是否成功。
2.根据权利要求1所述的方法,其特征在于,基于所述清洗规则,对所述目标数据清洗任务对应的源数据集进行数据清洗处理,得到目标清洗结果,包括:
确定所述每个操作节点的节点状态,其中,所述节点状态为以下之一:未修改状态、已修改状态;
从所述每个操作节点的运行规则中,获取多个目标操作节点的运行规则,生成第一清洗规则,其中,所述多个目标操作节点的节点状态为所述已修改状态;
基于所述第一清洗规则,对所述目标数据清洗任务对应的源数据集进行所述数据清洗处理,得到所述目标清洗结果。
3.根据权利要求2所述的方法,其特征在于,基于所述第一清洗规则,对所述目标数据清洗任务对应的源数据集进行所述数据清洗处理,得到所述目标清洗结果,包括:
基于所述第一清洗规则,从每个目标操作节点对应的执行命令中确定第一执行命令和第二执行命令,其中,所述第一执行命令的执行顺序优先于所述第二执行命令的执行顺序;
执行所述第一执行命令,对所述目标数据清洗任务对应的源数据集进行所述数据清洗处理,生成第一数据集;
执行所述第二执行命令,对所述第一数据集进行所述数据清洗处理,生成第二数据集,其中,所述第二数据集的数据标准程度高于所述第一数据集的数据标准程度;
基于所述第二数据集,生成所述目标清洗结果。
4.根据权利要求3所述的方法,其特征在于,基于所述第二数据集,生成所述目标清洗结果,包括:
确定第一操作节点的执行状态,其中,所述执行状态为以下之一:正在执行状态、未执行状态;
在所述执行状态为所述未执行状态的情况下,将所述执行状态更新为所述正在执行状态,并获取所述第一操作节点的运行规则,其中,所述第一操作节点的运行规则至少包括所述第二数据集的输出模式,所述输出模式为以下之一:第一输出模式、第二输出模式,所述第二输出模式对应的数据量小于所述第一输出模式对应的数据量;
在所述第二数据集的输出模式为所述第一输出模式的情况下,判断所述第二数据集的数据结构是否发生变化;
在所述第二数据集的数据结构发生变化的情况下,更新所述第二数据集的数据结构;
在更新所述第二数据集的数据结构之后,或者,在所述第二数据集的数据结构未发生变化的情况下,创建第一数据表,并从当前数据表中将所述第二数据集的数据写入所述第一数据表,生成写入结果,其中,所述写入结果表征是否成功从所述当前数据表中将所述第二数据集的数据写入所述第一数据表;
依据所述写入结果,生成所述目标清洗结果。
5.根据权利要求4所述的方法,其特征在于,依据所述写入结果,生成所述目标清洗结果,包括:
在所述写入结果表征成功从所述当前数据表中将所述第二数据集的数据写入所述第一数据表的情况下,对所述当前数据表的名称和所述第一数据表的名称进行互换,并删除名称为所述第一数据表的名称的所述当前数据表;
根据名称为所述当前数据表的名称的所述第一数据表,得到目标数据集,并生成数据清洗成功结果;
在所述写入结果表征未成功从所述当前数据表中将所述第二数据集的数据写入所述第一数据表的情况下,删除所述第一数据表,并生成数据清洗失败结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于远光软件股份有限公司,未经远光软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310296656.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置