[发明专利]一种网页的正文抽取方法有效
申请号: | 200810223791.9 | 申请日: | 2008-10-13 |
公开(公告)号: | CN101727461A | 公开(公告)日: | 2010-06-09 |
发明(设计)人: | 郭岩;丁国栋;张刚 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种网页的正文抽取方法,包括下列步骤:1)将为所述网页建立的DOM树中的所有特征节点进行合并段落操作;2)从承载最长段落的节点集合中任选一个节点,从所选节点回溯至所述DOM树的根节点,计算各个节点的父节点及其子树与该节点及其子树承载的文本的标点符号的数量的差值,顺序构成增量序列;3)在所述增量序列中查找第一个0值的增量,或第一个小于其前面相邻增量且小于或等于其后面相邻增量的增量;4)如果查找到所述增量,则确定该增量的对应节点及其子树所承载的文本是网页的正文;5)如果未查找到所述增量,则确定根节点及其子树所承载的文本是网页的正文。本发明抽取精度高,实现速度快,维护代价低且适应性好。 | ||
搜索关键词: | 一种 网页 正文 抽取 方法 | ||
【主权项】:
一种网页的正文抽取方法,包括下列步骤:1)将为所述网页建立的DOM树中的所有特征节点进行合并段落操作;2)从承载最长段落的节点集合中任选一个节点n1,从所选节点n1回溯至所述DOM树的根节点nm,计算所述所选节点的父节点n2及其子树与所述所选节点n1及其子树承载的文本的标点符号的数量的差值d2,依此类推,直到计算所述根节点及其子树与所述根节点的子节点及其子树承载的文本的标点符号的数量的增量dm,顺序构成增量序列;3)在所述增量序列中查找第一个0值的增量dp,或第一个小于其前面相邻增量且小于或等于其后面相邻增量的增量dq;4)如果查找到所述增量dp或所述增量dq,则确定所述增量dp的对应节点np-1及其子树或所述增量dq的对应节点nq-1及其各自的子树所承载的文本是网页的正文;5)如果未查找到所述增量dp或所述增量dq,则确定所述根节点nm及其子树所承载的文本是网页的正文。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/200810223791.9/,转载请声明来源钻瓜专利网。
- 上一篇:一种坐席班务安排的方法和装置
- 下一篇:一种火花塞