[发明专利]网页数据的收集方法及装置有效
申请号: | 201510728854.6 | 申请日: | 2015-10-30 |
公开(公告)号: | CN106649353B | 公开(公告)日: | 2020-05-22 |
发明(设计)人: | 包佳杰 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/953;G06F16/9535 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 韩建伟;张永明 |
地址: | 100083 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网页 数据 收集 方法 装置 | ||
本申请公开了一种网页数据的收集方法及装置。该方法包括:在网页加载过程中,获取第一调用信息,并将第一调用信息存储至预设全局数组,其中,第一调用信息为网页中部署脚本对网页中基础脚本发起调用的信息;在网页上加载基础脚本;在基础脚本加载完成之后,确定目标函数,其中,目标函数为预设全局数组中的第一调用信息在基础脚本中对应的函数;以及通过执行目标函数对网页进行数据收集。通过本申请,解决了相关技术中收集网页数据的准确性较低的问题。
技术领域
本申请涉及互联网领域,具体而言,涉及一种网页数据的收集方法及装置。
背景技术
目前,主流网页分析工具使用布置在网页上的采集程序(例如:JavaScriptTracker)在网页端收集访问者访问行为和系统信息数据,发送至数据仓库服务器。JavaScript Tracker代码分为两部分:基础脚本是一个可供外界调用的函数类库;部署脚本用来发起对基础脚本的调用。由于部署脚本中的一些调用信息对基础脚本中的函数调用发生在基础脚本加载完成之前,但是在基础脚本加载完成之前无法对基础脚本进行调用,从而使在基础脚本加载完成之前的对基础脚本中的一些函数调用发生失败,导致收集网页数据的准确性较低。
针对相关技术中收集网页数据的准确性较低的问题,目前尚未提出有效的解决方案。
发明内容
本申请的主要目的在于提供一种网页数据的收集方法及装置,以解决相关技术中收集网页数据的准确性较低的问题。
为了实现上述目的,根据本申请的一个方面,提供了一种网页数据的收集方法。该方法包括:在网页加载过程中,获取第一调用信息,并将第一调用信息存储至预设全局数组,其中,第一调用信息为网页中部署脚本对网页中基础脚本发起调用的信息;在网页上加载基础脚本;在基础脚本加载完成之后,确定目标函数,其中,目标函数为预设全局数组中的第一调用信息在基础脚本中对应的函数;以及通过执行目标函数对网页进行数据收集。
进一步地,在基础脚本加载完成之后,在确定目标函数之前,该方法还包括:检测是否接收到第二调用信息;如果接收到第二调用信息,解析第二调用信息,确定目标函数包括:确定预设全局数组中的第一调用信息在基础脚本中对应的函数以及第二调用信息在基础脚本中对应的函数;将预设全局数组中的第一调用信息在基础脚本中对应的函数以及第二调用信息在基础脚本中对应的函数作为目标函数。
进一步地,第一调用信息包括多个调用子信息,确定目标函数包括:遍历预设全局数组中的多个调用子信息确定多个调用子信息在基础脚本中对应的函数。
进一步地,将第一调用信息存储至预设全局数组包括:调用预设全局数组中的Push函数将第一调用信息存入预设全局数组。
进一步地,在网页上加载基础脚本时采用异步加载。
为了实现上述目的,根据本申请的另一方面,提供了一种网页数据的收集装置。该装置包括:获取单元,用于在网页加载过程中,获取第一调用信息,并将第一调用信息存储至预设全局数组,其中,第一调用信息为网页中部署脚本对网页中基础脚本发起调用的信息;加载单元,用于在网页上加载基础脚本;确定单元,用于在基础脚本加载完成之后,确定目标函数,其中,目标函数为预设全局数组中的第一调用信息在基础脚本中对应的函数;以及收集单元,用于通过执行目标函数对网页进行数据收集。
进一步地,该装置还包括:检测单元,用于检测是否接收到第二调用信息;解析单元,用于在接收到第二调用信息的情况下,解析第二调用信息,确定单元还用于确定预设全局数组中的第一调用信息在基础脚本中对应的函数以及第二调用信息在基础脚本中对应的函数;将预设全局数组中的第一调用信息在基础脚本中对应的函数以及第二调用信息在基础脚本中对应的函数作为目标函数。
进一步地,第一调用信息包括多个调用子信息,确定单元还用于遍历预设全局数组中的多个调用子信息确定多个调用子信息在基础脚本中对应的函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510728854.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:数据处理方法及装置
- 下一篇:网页爬取请求处理方法和装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置