[发明专利]网页类别知识库的建立系统及方法有效
申请号: | 201210376381.4 | 申请日: | 2012-09-29 |
公开(公告)号: | CN102890717A | 公开(公告)日: | 2013-01-23 |
发明(设计)人: | 卢宏林 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网页 类别 知识库 建立 系统 方法 | ||
1.一种网页类别知识库的建立系统,包括:
样本页面框架ID计算模块,适于抽取样本网页的页面框架,计算样本网页的页面框架ID;
模式累计模块,适于累计相同ID的页面框架数量达到阈值时,计算样本网页的页面框架模式;
知识库建立模块,适于建立样本网页的类别和所述页面框架模式的映射关系以生成网页类别知识库。
2.如权利要求1所述的网页类别知识库的建立方法,其特征在于,所述知识库建立模块进一步包括:
权重设定模块,适于按照不同样本网页的类别,为该类别的页面框架模式中的各个网页特征赋予预先设定权重;
映射表建立模块,适于建立样本网页的类别与该类别的各个网页特征及权重的关系映射表,以生成网页类别知识库。
3.如权利要求1或2所述的网页类别知识库的建立系统,其特征在于,页面框架ID计算模块进一步包括:页面框架抽取模块,适于根据样本网页源代码中的html语言标签抽取所述样本网页的页面框架。
4.如权利要求1~3中任一项所述的网页类别知识库的建立系统,其特征在于,页面框架ID计算模块进一步包括:页面框架抽取模块,适于按标点识别出样本网页的正文,去除正文以得到所述样本网页的页面框架。
5.如权利要求1~4中任一项所述的网页类别知识库的建立系统,其特征在于,所述模式累计模块进一步包括:
待定列表页识别模块,适于判断是否有位于页面内固定位置块内且稳定存在一定时间的链接,若有,则设定所述样本网页为待定列表页;
列表页框架模式确定模块,适于每隔一段时间内调度一次所述待定列表页,如果所述链接不断更新为新链接,就将所述样本网页的页面框架模式设为列表页框架模式。
6.一种网页类别知识库的建立方法,包括以下步骤:
抽取样本网页的页面框架,计算样本网页的页面框架ID;
累计相同ID的页面框架数量达到阈值时,计算样本网页的页面框架模式;
建立样本网页的类别和所述页面框架模式的映射关系,以生成网页类别知识库。
7.如权利要求6所述的网页类别知识库的建立方法,其特征在于,所述建立样本网页的类别和所述页面框架模式的映射关系以生成网页类别知识库具体包括:
按照不同样本网页的类别,为该类别的页面框架模式中的各个网页特征赋予预先设定权重;
建立样本网页的类别与该类别的各个网页特征及权重的关系映射表,以生成网页类别知识库。
8.如权利要求6或7所述的网页类别知识库的建立方法,其特征在于,抽取所述样本网页的页面框架的方式为:根据样本网页源代码中的html语言标签抽取所述样本网页的页面框架。
9.如权利要求6~8中任一项所述的网页类别知识库的建立方法,其特征在于,抽取所述样本网页的页面框架的方式为:按标点识别出样本网页的正文,去除正文以得到所述样本网页的页面框架。
10.如权利要求6~9中任一项所述的网页类别知识库的建立方法,其特征在于,列表页框架模式计算的方式为:
判断是否有位于页面内固定位置块内且稳定存在一定时间的链接,若有,则设定所述样本网页为待定列表页;
每隔一段时间内调度一次所述待定列表页,如果所述链接不断更新为新链接,就将所述样本网页的页面框架模式设为列表页框架模式。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210376381.4/1.html,转载请声明来源钻瓜专利网。