[发明专利]数据录入方法、装置、电子设备及计算机可读存储介质在审
申请号: | 202010221632.6 | 申请日: | 2020-03-25 |
公开(公告)号: | CN111522902A | 公开(公告)日: | 2020-08-11 |
发明(设计)人: | 孔小敏 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/35;G06F40/30;G06Q40/08 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
地址: | 518000 广东省深圳市福田区益田路5033号*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 录入 方法 装置 电子设备 计算机 可读 存储 介质 | ||
1.一种数据录入方法,其特征在于,所述方法包括:
获取原始数据集,对所述原始数据集进行预处理操作,得到标准数据集;
利用预构建的语义识别模型识别所述标准数据集中的特征词,根据所述特征词,筛选出所述标准数据集的数据类型,并利用预设的分类模型对所述数据类型进行分类处理,得到目标数据集;
通过预设的匹配算法将所述目标数据集与预构建数据库中的目标表进行数据类型匹配;
若所述数据类型匹配失败,对所述分类模型中的分类器函数进行参数调整后重新对所述数据类型进行分类处理,得到目标数据集;
若所述数据类型匹配成功,将所述目标数据集中的数据录入至对应的目标表中。
2.如权利要求1所述的数据录入方法,其特征在于,所述预处理操作包括去重、去异常以及缺失值检测。
3.如权利要求2所述的数据录入方法,其特征在于,所述去异常包括:利用双边测试剔除、最小值单边测试剔除或最大值单边测试剔除,得到去重后的所述原始数据集中的异常数据G;
其中,双边测试剔除数据的计算方法包括:
其中,i属于正整数,表示去重后的所述原始数据集的平均值,S表示去重后的所述原始数据集的标准差,Yi表示去重后的所述原始数据集;
所述最小值单边测试剔除的计算方法包括:
其中,表示去重后的所述原始数据集的平均值,Ymin表示去重后的所述原始数据集中最小的数据,S表示去重后的所述原始数据集的标准差;
所述最大值单边测试剔除的计算方法包括:
其中,表示去重后的所述原始数据集的平均值,Ymmax表示去重后的所述原始数据集中最大的数据,S表示去重后的所述原始数据集的标准差。
4.如权利要求3所述的数据录入方法,其特征在于,所述缺失值检测包括:
通过缺失函数检测去异常后的所述原始数据集中存在的数据缺失值;
利用下述填充算法对数据缺失值进行填充:
其中,L(θ)表示填充的数据缺失值,xi表示第i个数据缺失值,θ表示填充的数据缺失值对应的概率参数,n表示去异常后的所述原始数据集的数量,p(xi|θ)表示填充的数据缺失值概率。
5.如权利要求1所述的数据录入方法,其特征在于,所述通过预设的匹配算法将所述目标数据集与预构建数据库中的目标表进行数据类型匹配,包括:
对所述目标数据集中的数据类型建立目标数据矩阵:
H(i,0)=0,0≤i≤m;
其中,i表示目标数据集中第i个数据类型的字符串长度,m表示目标数据集中所有数据类型的字符串长度总和;
对所述目标表的数据类型建立目标表矩阵为:
H(0,j)=0,0≤j≤n;
其中,j表示目标表中第j个数据类型的字符串长度,n表示目标表中所有数据类型的字符串长度总和;
计算所述目标数据矩阵和目标表矩阵的匹配得分,将所述匹配得分与预设的阈值进行比较,根据比较结果完成所述数据类型的匹配。
6.如权利要求5所述的数据录入方法,其特征在于,所述计算所述目标数据矩阵和目标表矩阵的匹配得分,包括:
利用下述计算公式计算所述目标数据矩阵和目标表矩阵的匹配得分:
w=(H(i-1,j-1)+S(am,bn))
其中,w表示匹配得分,am表示目标数据矩阵中所有数据类型的字符串,bn表示目标表矩阵中所有数据类型的字符串,S(am,bn)表示目标数据矩阵与目标表矩阵的相似系数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010221632.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置