[发明专利]数据处理方法、装置、计算机设备和存储介质有效
申请号: | 201710471132.6 | 申请日: | 2017-06-20 |
公开(公告)号: | CN109101507B | 公开(公告)日: | 2023-09-26 |
发明(设计)人: | 张浩;尹红军 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 何平;邓云鹏 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种数据处理方法、装置、计算机设备和存储介质,方法包括:获取本轮的待抽样清洗数据;获取本轮的每个待抽样清洗数据在多个随机树上的路径长度,多个随机树根据本轮或者前至少一轮的待抽样清洗数据训练得到;根据路径长度确定本轮的每个待抽样清洗数据的抽样概率;对抽样概率在预设阈值以上的本轮的待抽样清洗数据进行抽样,得到相应的抽样数据;清洗抽样数据;当不满足清洗结束条件时,将下一轮当作本轮,返回获取本轮的待抽样清洗数据的步骤以继续清洗数据,直至满足清洗结束条件。本申请中的数据处理方法,基于不需要样本标记的训练得到的多个随机树来发现疑似脏数据并清洗,节省了人工标记训练样本的时间,提高了数据清洗效率。 | ||
搜索关键词: | 数据处理 方法 装置 计算机 设备 存储 介质 | ||
【主权项】:
1.一种数据处理方法,所述方法包括:获取本轮的待抽样清洗数据;获取本轮的每个所述待抽样清洗数据在多个随机树上的路径长度,所述多个随机树根据本轮或者前至少一轮的待抽样清洗数据训练得到;根据所述路径长度确定本轮的每个所述待抽样清洗数据的抽样概率;对抽样概率在预设阈值以上的本轮的所述待抽样清洗数据进行抽样,得到相应的抽样数据;清洗所述抽样数据;当不满足清洗结束条件时,将下一轮当作本轮,返回所述获取本轮的待抽样清洗数据的步骤以继续清洗数据,直至满足清洗结束条件。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710471132.6/,转载请声明来源钻瓜专利网。
- 上一篇:基于可视化的搜索方法及系统
- 下一篇:小文件归档、读取方法及装置、电子设备