[发明专利]一种基于主题网络爬虫的搜索方法及装置在审
申请号: | 201310716763.1 | 申请日: | 2013-12-23 |
公开(公告)号: | CN103714140A | 公开(公告)日: | 2014-04-09 |
发明(设计)人: | 刘雄伟 | 申请(专利权)人: | 北京锐安科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 胡彬 |
地址: | 100044 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于主题网络爬虫的搜索方法及装置,所述方法包括:从与给定搜索主题相关的网页地址集中提取一个网页地址;获取所述网页地址对应的有效网页;对所述有效网页进行分析,得到有效网页内容;计算所述有效网页与搜索主题在语义上的相关度,即立即价值,并将符合预设条件的有效网页及包含的网页链接添加到页面数据库;对于不符合预设条件的有效网页,计算网页链接相对于所述搜索主题的链接价值,即未来回报价值,并将符合条件的网页链接添加到网页地址集中。本发明实施例通过计算不满足条件的网页链接的未来回报价值,来预测主题网络爬虫的搜索方向,从而避免了主题网络爬虫对无关网页的抓取,提高了主题网络爬虫抓取网页的准确性。 | ||
搜索关键词: | 一种 基于 主题 网络 爬虫 搜索 方法 装置 | ||
【主权项】:
一种基于主题网络爬虫的搜索方法,其特征在于,所述方法包括:从与给定搜索主题相关的网页地址集中提取一个网页地址;获取所述网页地址对应的有效网页;对所述有效网页进行分析,得到有效网页内容;根据所述有效网页内容,计算所述有效网页与所述搜索主题在语义上的相关度,作为所述有效网页的立即价值,当所述有效网页的立即价值符合第一预设条件时,将所述有效网页及包含的网页链接作为搜索结果添加到页面数据库;当所述有效网页的立即价值不符合第一预设条件时,计算所述有效网页中的网页链接相对于所述搜索主题的链接价值,作为所述网页链接的未来回报价值,当所述网页链接的未来回报价值符合第二预设条件时,将所述网页链接添加到所述网页地址集中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司,未经北京锐安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201310716763.1/,转载请声明来源钻瓜专利网。