[发明专利]一种数据提取的处理方法、装置、设备和存储介质在审
申请号: | 201910901474.6 | 申请日: | 2019-09-23 |
公开(公告)号: | CN110633318A | 公开(公告)日: | 2019-12-31 |
发明(设计)人: | 谢永恒;杨延平 | 申请(专利权)人: | 北京锐安科技有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/27 |
代理公司: | 11332 北京品源专利代理有限公司 | 代理人: | 孟金喆 |
地址: | 100044 北京市海淀区西小口*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 字段 历史数据 匹配成功 填充率 数据提取 数据集 数据集中 数据字段 映射关系 字段匹配 模型实现 大数据 智能化 预设 存储 检测 | ||
1.一种数据提取的处理方法,其特征在于,包括:
获取当前数据集中的当前数据字段和历史数据提取模型中的历史数据字段,并将所述历史数据字段与所述当前数据字段进行字段匹配,确定匹配成功字段;
若所述匹配成功字段组成的集合包含所述历史数据字段组成的集合,则确定所述当前数据集中所述匹配成功字段的填充率;
当所述匹配成功字段的填充率满足预设填充率时,建立所述当前数据集和所述历史数据提取模型的映射关系,并基于所述历史数据提取模型及所述映射关系对所述当前数据集进行数据提取。
2.根据权利要求1所述的方法,其特征在于,建立所述当前数据集和所述历史数据提取模型的映射关系,包括:
根据所述历史数据提取模型与所述历史数据字段的对应关系,和所述历史数据字段与所述当前数据字段的字段匹配关系,确定所述当前数据集和所述历史数据提取模型的映射关系。
3.根据权利要求1所述的方法,其特征在于,在获取当前数据集中的当前数据字段和历史数据提取模型中的历史数据字段之前,还包括:
对所述当前数据集进行数据质量检测,当所述当前数据集的数据质量合格时,执行所述获取当前数据集中的当前数据字段和历史数据提取模型中的历史数据字段的步骤。
4.根据权利要求3所述的方法,其特征在于,所述对当前数据集进行数据质量检测,包括:
确定当前数据集的数据量参数;
如果所述数据量参数满足第一预设条件,则确定所述当前数据集的数据质量合格;
和/或,
确定当前数据集当前数据字段的字段填充率参数;
如果所述字段填充率参数满足第二预设条件,则确定所述当前数据集的数据质量合格。
5.根据权利要求4所述的方法,其特征在于,所述确定当前数据集的数据量参数,包括:
检测所述当前数据集在至少一个单位时间内的数据量,并确定所述当前数据集的数据量参数,其中,所述数据量参数包括数据量的波动值、最大值、最小值和平均值中的至少一项。
6.根据权利要求4所述的方法,其特征在于,所述确定所述当前数据集的字段填充率参数,包括:
确定所述当前数据集中各当前数据字段的填充状态,并基于所述各当前数据字段的填充状态确定所述当前数据集的字段填充率参数,其中,所述当前数据集的字段填充率参数包括所述当前数据字段中关键数据字段的填充率、所述字段填充率的最大值、最小值和平均值中的至少一项。
7.根据权利要求1所述的方法,其特征在于,在获取当前数据集中的当前数据字段和历史数据提取模型中的历史数据字段之前,还包括:
获取原始数据集和所述原始数据集对应的至少一个数据标准;
基于所述数据标准对所述原始数据集进行标准化处理,生成当前数据集。
8.一种数据提取的处理装置,其特征在于,所述装置包括:
匹配成功字段确定模块,用于获取当前数据集中的当前数据字段和历史数据提取模型中的历史数据字段,并将所述历史数据字段与所述当前数据字段进行字段匹配,确定匹配成功字段;
填充率确定模块,用于若所述匹配成功字段组成的集合包含所述历史数据字段组成的集合,则确定所述当前数据集中所述匹配成功字段的填充率;
数据提取模块,用于当所述匹配成功字段的填充率满足预设填充率时,建立所述当前数据集和所述历史数据提取模型的映射关系,并基于所述历史数据提取模型及所述映射关系对所述当前数据集进行数据提取。
9.一种设备,其特征在于,所述设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的数据提取的处理方法。
10.一种包含计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的数据提取的处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司,未经北京锐安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910901474.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种检测阶段自动报告系统
- 下一篇:一种工业设计用大数据分析系统