[发明专利]一种基于Jxbrowser的网页采集技术在审
申请号: | 202010303619.5 | 申请日: | 2020-04-16 |
公开(公告)号: | CN111523064A | 公开(公告)日: | 2020-08-11 |
发明(设计)人: | 徐利东;远贵良 | 申请(专利权)人: | 山东贝赛信息科技有限公司 |
主分类号: | G06F16/955 | 分类号: | G06F16/955;G06F16/958;G06F9/445 |
代理公司: | 济南瑞宸知识产权代理有限公司 37268 | 代理人: | 王萍 |
地址: | 250000 山东省济南市经十路7000号*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 jxbrowser 网页 采集 技术 | ||
1.一种基于Jxbrowser的网页采集技术,其特征在于网页采集步骤如下:
步骤1:数据初始化:通过jxbrowser,对实例对象完成数据的初始化;
步骤2:保存路径:将初始数据通过BrowserContextParams,设置实例对象的网页缓存保存路径;
步骤3:代理ip地址和端口:通过ContextParams,设置代理ip地址和端口;
步骤4:加载数据完成初始化:利用函数GetBrowserContext,加载数据,将加载后的数据利用InitBrowser,完成对实例对象的所有初始化操作;
步骤5:资源定位:通过LoadURL,实现对目标URL的请求;
步骤6:获取内容:待网页下载完成,获取html内容;
步骤7:完成采集:将网页内容发送到kafka,完成网页采集。
2.根据权利要求1所述的一种基于Jxbrowser的网页采集技术,其特征在于:所述的加载数据,分别加载保存路径、代理ip地址和端口步骤所取得的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东贝赛信息科技有限公司,未经山东贝赛信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010303619.5/1.html,转载请声明来源钻瓜专利网。