[发明专利]一种用于确定网络资源点的抓取频率的方法和装置有效
申请号: | 201310522135.X | 申请日: | 2013-10-29 |
公开(公告)号: | CN103605670B | 公开(公告)日: | 2017-03-29 |
发明(设计)人: | 林英杰;刘晓丽 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京市隆安律师事务所11323 | 代理人: | 权鲜枝 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 确定 网络资源 抓取 频率 方法 装置 | ||
1.一种用于确定网络资源点的抓取频率的装置,该装置包括:
信息抓取单元,适于抓取多个网络资源点的数据信息;
操作数获取单元,适于对每个网络资源点,筛选该网络资源点的有效信息以及根据所述有效信息获取在预定的一段第一时间段内的有效交互数据;
等级属性获取单元,适于根据所述有效交互数据计算所述多个网络资源点的活跃度等级属性;
抓取频率确定单元,适于根据所述网络资源点的活跃度等级属性确定所述网络资源点的抓取频率。
2.根据权利要求1所述的装置,其中,
所述抓取频率确定单元,适于以所述网络资源点的活跃度等级属性作为所述网络资源点的抓取频率;或,使用蜘蛛爬虫获取所述网络资源点的初始抓取频率,使用所述网络资源点的活跃度等级属性调整所述初始抓取频率而确定所述网络资源点的抓取频率。
3.如权利要求1所述的装置,其中,
所述操作数获取单元,适于获取在该第一时间段内的该网络资源点的新增的有效信息的数目、在该第一时间段内所述有效信息被访问的次数以及在该第一时间段内网络使用者针对所述有效信息给出反馈的次数中的至少一个。
4.如权利要求1所述的装置,其中,
所述操作数获取单元,适于对该网络资源点的每条信息,判断该条信息是否为有效信息,若判断为否,则删除该条信息,若判断为是,则进一步抽取在该第一时间段内该信息被访问的次数,和/或,在该第一时间段内网络使用者针对该信息给出反馈的次数;和/或,在对该网络资源点的全部信息进行其是否为有效信息的判断后,获取在该第一时间段内新增的有效信息的数目。
5.如权利要求4所述的装置,其中,
所述操作数获取单元,适于对每条信息抽取该信息的正文,使用质量评价模型评估所述正文的质量,判断所述正文的质量是否合格,若判断为是,则该信息是有效信息,若判断为否,则该信息不是有效信息。
6.根据权利要求1所述的装置,其中,
所述信息抓取单元,进一步适于获取所述多个网络资源点所属的类别并根据类别将所述多个网络资源点分组;
所述操作数获取单元,适于计算属于同一分组的所述网络资源点的有效交互数据的平均值作为该分组的平均有效交互数据;
所述等级属性获取单元,适于根据各个网络资源点的有效交互数据和其所属分组的平均有效交互数据,计算该网络资源点的活跃度等级属性。
7.一种用于确定网络资源点的抓取频率的方法,该方法包括:
抓取多个网络资源点的数据信息;
对每个网络资源点,筛选该网络资源点的有效信息以及根据所述有效信息获取在预定的一段第一时间段内的有效交互数据;
根据所述有效交互数据计算所述多个网络资源点的活跃度等级属性;
根据所述网络资源点的活跃度等级属性确定所述网络资源点的抓取频率。
8.根据权利要求7所述的方法,其中,所述根据所述网络资源点的活跃度等级属性确定所述网络资源点的抓取频率,包括:
以所述网络资源点的活跃度等级属性作为所述网络资源点的抓取频率;
或,
使用蜘蛛爬虫获取所述网络资源点的初始抓取频率,使用所述网络资源点的活跃度等级属性调整所述初始抓取频率而确定所述网络资源点的抓取频率。
9.根据权利要求7所述的方法,其中,
所述网络资源点在预定的一段第一时间段内的有效交互数据包括在该第一时间段内的该网络资源点的新增的有效信息的数目、在该第一时间段内所述有效信息被访问的次数以及在该第一时间段内网络使用者针对所述有效信息给出反馈的次数中的至少一个。
10.根据权利要求7所述的方法,其中,所述筛选该网络资源点的有效信息以及根据所述有效信息获取在预定的一段第一时间段内的有效交互数据,具体包括:
对该网络资源点的每条信息,判断该条信息是否为有效信息,若判断为否,则删除该条信息,若判断为是,则进一步抽取在该第一时间段内该信息被访问的次数,和/或,在该第一时间段内网络使用者针对该信息给出反馈的次数;和/或,
在对该网络资源点的全部信息进行其是否为有效信息的判断后,获取在该第一时间段内新增的有效信息的数目。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310522135.X/1.html,转载请声明来源钻瓜专利网。