[发明专利]一种主题网页爬取方法及主题爬虫系统有效
申请号: | 201810581858.X | 申请日: | 2018-06-07 |
公开(公告)号: | CN108959413B | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 彭涛;包铁;徐凯旋;张雪松;王上 | 申请(专利权)人: | 吉林大学 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/9535;G06F16/955;G06N3/04;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王云晓;王宝筠 |
地址: | 130012 吉*** | 国省代码: | 吉林;22 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种主题网页爬取方法及主题爬虫系统,方法包括:从包括种子链接的第一待爬取链接集合中获取未爬取的链接;确定获取的链接对应的目标网页对应的第一相关度和第二相关度,第一相关度和第二相关度分别为目标网页中目标文本内容和目标链接与指定主题的相关度;根据第一相关度和第二相关度确定目标网页的温度值,并存储目标网页的待展示内容;若目标网页的温度值大于或等于预设温度值,将目标链接放入第二待爬取链接集合;若第一待爬取链接集合中不存在未获取过的链接,从第二待爬取链接集合中获取与指定主题相关度最高的未爬取的链接继续爬取。本申请使得用户可从网络上获取大量与指定主题相关的网页。 | ||
搜索关键词: | 一种 主题 网页 方法 爬虫 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于吉林大学,未经吉林大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810581858.X/,转载请声明来源钻瓜专利网。