[发明专利]数据抽取方法、装置、计算机设备和存储介质有效
申请号: | 201910634368.6 | 申请日: | 2019-07-15 |
公开(公告)号: | CN110515974B | 公开(公告)日: | 2022-03-11 |
发明(设计)人: | 张国锐;戴勇 | 申请(专利权)人: | 金蝶软件(中国)有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/9535 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 陈小娜 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 抽取 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及一种数据抽取方法、装置、计算机设备和存储介质。所述方法包括:获取携带有待抽取数据标识的数据抽取任务;根据所述数据抽取任务获取与所述待抽取数据标识对应的待抽取数据;从所述待抽取数据中分页抽取中间数据,所述中间数据中包括错误标识数据;统计所述错误标识数据所对应的多种特征信息;计算在所述中间数据中所述特征信息分别对应的数据错误率,将所述数据错误率大于第一阈值的特征信息标记为目标特征;根据所述目标特征生成抽取条件;根据所述抽取条件从所述待抽取数据中进行抽取,得到符合所述抽取条件的目标数据。采用本方法能够提高数据抽取的准确性。
技术领域
本申请涉及计算机技术领域,特别是涉及一种数据抽取方法、装置、计算机设备和存储介质。
背景技术
随着计算机技术的发展,计算机可以处理大量的数据。为了保证得到的数据的正确性,用户通常需要对得到的数据进行检查。由于数据的海量增加,依次检查全部的数据非常耗费时间成本和工作资源。因此,出现了对数据的抽检方式。通过对抽取出的部分数据进行检查,以此来评估全部数据的整体数据质量。
在传统方式中,抽取数据的方式通常是针对全部的数据一次性随机抽取出部分数据用于检查。但是,这种方式抽取出的数据只是整体数据中的一部分,随机抽取得到的数据存在偶然性,并不能够准确的反映整体数据的数据质量。因此,为了抽取出的数据能够准确的反映整体数据的数据质量,如何准确的抽取数据成为目前需要解决的技术问题。
发明内容
基于此,有必要针对上述数据抽取不准确的技术问题,提供一种能够提高数据抽取准确性的数据抽取方法、装置、计算机设备和存储介质。
一种数据抽取方法,所述方法包括:
获取携带有待抽取数据标识的数据抽取任务;
根据所述数据抽取任务获取与所述待抽取数据标识对应的待抽取数据;
从所述待抽取数据中分页抽取中间数据,所述中间数据中包括错误标识数据;
统计所述错误标识数据所对应的多种特征信息;
计算在所述中间数据中所述特征信息分别对应的数据错误率,将所述数据错误率大于第一阈值的特征信息标记为目标特征;
根据所述目标特征生成抽取条件;
根据所述抽取条件从所述待抽取数据中进行抽取,得到符合所述抽取条件的目标数据。
在其中一个实施例中,所述数据抽取任务中还携带了所述中间数据对应的配置信息,所述配置信息中包括数量占比;所述从所述待抽取数据中分页抽取中间数据包括:
获取内存资源信息,根据所述内存资源信息确定数据容量条件;
从所述待抽取数据中提取满足所述数据容量条件的原始数据;
基于过滤条件对所述原始数据进行过滤,得到过滤后的数据;
从所述过滤后的数据中按照所述数量占比进行随机抽取,得到中间数据;
重复执行所述从所述待抽取数据中抽取满足所述数据容量条件的原始数据的步骤,直到遍历所有所述待抽取数据。
在其中一个实施例中,所述配置信息中还包括属性信息;所述根据所述内存资源信息确定数据容量条件包括:
根据所述属性信息确定每个属性对应的数据的内存占用空间;
统计所述配置信息中所述中间数据包括的所有属性对应的数据的内存占用空间之和,得到所述中间数据对应的内存占用空间;
计算所述内存资源信息中的内存资源空间与所述中间数据对应的内存占用空间的比值,生成数据容量条件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于金蝶软件(中国)有限公司,未经金蝶软件(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910634368.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置