[发明专利]一种基于多次校验的数据信息更新系统和方法在审
申请号: | 201710367303.0 | 申请日: | 2017-05-23 |
公开(公告)号: | CN107329969A | 公开(公告)日: | 2017-11-07 |
发明(设计)人: | 周钰徐 | 申请(专利权)人: | 合肥智权信息科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 合肥市长远专利代理事务所(普通合伙)34119 | 代理人: | 段晓微,叶美琴 |
地址: | 230000 安徽省合肥市高新区国家大学*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 多次 校验 数据 信息 更新 系统 方法 | ||
1.一种基于多次校验的数据信息更新系统,其特征在于,包括:
数据获取模块,用于利用网络爬虫获取数据信息;
第一校验模块,用于在预设时间对网络爬虫获取的数据信息进行初步校验,得到初步数据信息集合;
第二校验模块,用于将初步数据信息集合中数据信息与预设数据信息库进行比对并判断所述数据信息是否校验成功;
清除模块,用于删除初步数据信息集合中重复度校验失败的数据信息;
更新模块,用于将初步数据信息集合中重复度校验成功的数据信息添加到预设数据信息库中,更新预设数据信息库。
2.根据权利要求1所述的基于多次校验的数据信息更新系统,其特征在于,所述第一校验模块,具体用于:
在预设时间将网络爬虫获取的数据信息进行相互比较;
删除两个数据信息中相似度大于预设相似度值的一个数据信息;
在所有数据信息均相互比较后,得到初步数据信息集合。
3.根据权利要求1所述的基于多次校验的数据信息更新系统,其特征在于,所述第二校验模块,具体用于:
获取初步数据信息集合一个数据信息;
将所述数据信息与预设数据信息库中预设数据信息进行重复度比较,得到重复度值并根据重复度值与预设阈值判断重复度校验是否成功;当所述重复度值大于预设阈值,判断所述数据信息重复度校验失败;否则,判断所述数据信息重复度校验成功;
当初步数据信息集合中所有数据信息均进行重复度比较后,完成重复度校验。
4.根据权利要求1所述的基于多次校验的数据信息更新系统,其特征在于,所述数据获取模块包括多个数据获取子模块。
5.根据权利要求1所述的基于多次校验的数据信息更新系统,其特征在于,还包括数据信息推送模块,用于将添加到预设数据信息库中的数据信息推送给用户。
6.一种基于多次校验的数据信息更新方法,其特征在于,包括:
S1、利用网络爬虫获取数据信息;
S2、在预设时间对网络爬虫获取的数据信息进行初步校验,得到初步数据信息集合;
S3、将初步数据信息集合中数据信息与预设数据信息库进行比对并判断所述数据信息是否校验成功;
S4、删除初步数据信息集合中重复度校验失败的数据信息;
S5、将初步数据信息集合中重复度校验成功的数据信息添加到预设数据信息库中,更新预设数据信息库。
7.根据权利要求6所述的基于多次校验的数据信息更新方法,其特征在于,步骤S2,具体包括:
在预设时间将网络爬虫获取的数据信息进行相互比较;
删除两个数据信息中相似度大于预设相似度值的一个数据信息;
在所有数据信息均相互比较后,得到初步数据信息集合。
8.根据权利要求6所述的基于多次校验的数据信息更新方法,其特征在于,步骤S3,具体包括:
S31、获取初步数据信息集合一个数据信息;
S32、将所述数据信息与预设数据信息库中预设数据信息进行重复度比较,得到重复度值并根据重复度值与预设阈值判断重复度校验是否成功;当所述重复度值大于预设阈值,判断所述数据信息重复度校验失败;否则,判断所述数据信息重复度校验成功;
S33、重复步骤S31、S32操作,直到初步数据信息集合中所有数据信息均进行重复度比较。
9.根据权利要求6所述的基于多次校验的数据信息更新方法,其特征在于,在步骤S1中,利用多个网络爬虫获取数据信息。
10.根据权利要求6所述的基于多次校验的数据信息更新方法,其特征在于,还包括步骤S6,将添加到预设数据信息库中的数据信息推送给用户。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥智权信息科技有限公司,未经合肥智权信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710367303.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置