[发明专利]一种网络数据爬虫使用浏览器多分身多代理的方法

摘要

本发明提供了一种网络数据爬虫使用浏览器多分身多代理的方法，包括统一管理平台模块：对多台机器上部署的爬虫实现状态监控、服务停止、启动、重启功能；任务模块：提供HTTP服务与数据库交互、下发任务、初始进程间通信的客户端；浏览器二次开发模块：初始化自定义浏览器分身内核、启动进程通信服务端、启动插件；插件模块：动态获取用户配置的代理IP、配置的用户名密码、自动分页浏览页面、保存数据；保护程序模块：定时检测、守护程序。本发明提供的方法，实现了在一台机器上使用多个账号登录同一个网站时，不再受到会话的限制，在同一IP下同时登录多个账号，减少被服务器检测系统发现的风险的情况，同时极大的保障了登录账号的安全性。