[发明专利]一种网页数据采集模板的生成方法和装置在审
申请号: | 201910690874.7 | 申请日: | 2019-07-29 |
公开(公告)号: | CN110489625A | 公开(公告)日: | 2019-11-22 |
发明(设计)人: | 高体伟;陈煜东;李亚博;石欢欢;杜静;刘钰 | 申请(专利权)人: | 北京百分点信息科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/958 |
代理公司: | 11315 北京国昊天诚知识产权代理有限公司 | 代理人: | 刘昕;南霆<国际申请>=<国际公布>=< |
地址: | 100081 北京市朝阳区北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标元素 目标解析 目标内容 解析 计算机可读存储介质 网页 采集 电子设备 规则表示 接收用户 路径生成 网页数据 选取指令 通配 | ||
1.一种网页数据采集模板的生成方法,其特征在于,包括:
接收对网页中至少一个目标元素的选取指令,确定选取的目标元素的DOM路径;
根据所述DOM路径生成解析模板;
接收用户对所述解析模板中DOM路径的修改操作得到目标解析模板,其中,修改后的所述DOM路径中,用通配规则表示目标元素的DOM路径中的特殊属性值;
所述目标解析模板用于对所述网页中的目标元素进行采集。
2.如权利要求1所述的方法,其特征在于,所述根据所述DOM路径生成解析模板,具体包括:
将所述DOM路径转换成字符串表示;
根据所述字符串中子字符串的路径层级,将所述字符串中的子字符串赋值给所述解析模板中的各级节点的路径属性。
3.如权利要求2所述的方法,其特征在于:
所述子字符串表征至少一个DOM节点;
所述子字符串包括DOM节点的节点名称、节点id属性、节点的class属性和序号中的至少一种,其中,所述序号表征本节点在所述DOM路径中同级、同名节点的顺序。
4.如权利要求2所述的方法,其特征在于,所述解析模板的各级节点包括:
一级节点,所述一级节点用于标识所述DOM路径中的共有部分;
所述解析模板的节点还包括:二级节点,所述二级节点用于标识所述DOM路径中同级的多个并列元素;
所述解析模板的节点还包括:三级节点,所述三级节点用于标识DOM路径中目标元素所在的节点。
5.如权利要求2所述的方法,其特征在于,根据所述字符串中子字符串的路径层级,将所述字符串中的子字符串赋值给所述解析模板中的各级节点的路径属性,具体包括:
将所述路径层级中共有的子字符串赋值给解析模板的一级节点的路径属性;
将所述路径层级中同级的多个并列子字符串赋值给解析模板的二级节点的路径属性;
将所述路径层级中目标元素所在层级的子字符串赋值给解析模板的三级节点的路径属性。
6.一种网页数据采集模板的生成装置,其特征在于,包括:选取模块,生成模块,编辑模块,其中:
所述选取模块,用于接收对网页中至少一个目标元素的选取指令,确定选取的目标元素的DOM路径;
所述生成模块,用于根据所述DOM路径生成解析模板;
所述编辑模块,用于接收用户对所述解析模板中DOM路径的修改操作得到目标解析模板,其中,修改后的所述DOM路径中,用通配规则表示目标元素的DOM路径中的特殊属性值;
所述目标解析模板用于对所述网页中的目标元素进行采集。
7.如权利要求6所述的装置,其特征在于,所述生成模块,具体包括:
将所述DOM路径转换成字符串表示;
根据所述字符串中子字符串的路径层级,将所述字符串中的子字符串赋值给所述解析模板中的各级节点的路径属性。
8.如权利要求6所述的装置,其特征在于,所述解析模板的各级节点包括:
一级节点,所述一级节点用于标识所述DOM路径中的共有部分;
所述解析模板的节点还包括:二级节点,所述二级节点用于标识所述DOM路径中同级的多个并列元素;
所述解析模板的节点还包括:三级节点,所述三级节点用于标识DOM路径中目标元素所在的节点。
9.一种电子设备,其特征在于,包括:存储器、处理器及存储在所在存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至5中任一项所述的网页数据采集模板的生成方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的网页数据采集模板的生成方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百分点信息科技有限公司,未经北京百分点信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910690874.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于句子特征向量的汉越伪平行句对抽取的方法
- 下一篇:一种信息采集方法和装置