[发明专利]一种网站监测的方法及装置在审
申请号: | 202010731482.3 | 申请日: | 2020-07-27 |
公开(公告)号: | CN111898013A | 公开(公告)日: | 2020-11-06 |
发明(设计)人: | 张龙;王萌;黑岩;刘鑫;王向前 | 申请(专利权)人: | 绿盟科技集团股份有限公司;北京神州绿盟科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;H04L29/08 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 刘亚威 |
地址: | 100089 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网站 监测 方法 装置 | ||
1.一种网站监测的方法,其特征在于,包括:
获取待监测网站的网页;所述网页是通过网络爬虫爬取和/或搜索引擎收录得到的;
根据网络爬虫的爬取深度和/或搜索引擎收录的网页更新时间确定出各网页的关键指数;
根据所述各网页的关键指数确定出所述各网页的关键度,并进行排序;将排序后的各网页放入预设层数的待监测网页金字塔;所述待监测网页金字塔中每一层放入网页的数量是由预设指数函数确定的;
根据预设的基准监测周期,确定出所述待监测网页金字塔中各层的监测周期以及各层的监测周期对应的监测网页数量;
根据所述待监测网页金字塔中各层的监测周期以及各层的监测周期对应的监测网页数量,通过滑动监测网页的方式对所述待监测网页金字塔中各层的网页进行监测。
2.如权利要求1所述的方法,其特征在于,所述根据网络爬虫的爬取深度和/或搜索引擎收录的网页更新时间确定出各网页的关键指数,包括:
根据网络爬虫的广度优先方法的爬取深度,确定出所述各网页中的父页面与子页面的关系;并根据所述各网页中父页面与子页面的关系确定出所述各网页的第一关键指数;所述父页面的第一关键指数与第一预设值的和为所述子页面的第一关键指数;和/或
根据所述各网页在所述搜索引擎中收录的网页更新时间,得到所述各网页的网页更新时间距离当前时间的时间差,并根据所述时间差确定出所述各网页的第二关键指数;
对所述各网页的第一关键指数和所述各网页的第二关键指数进行去重得到所述各网页的关键指数。
3.如权利要求2所述的方法,其特征在于,所述对所述各网页的第一关键指数和所述各网页的第二关键指数进行去重得到所述各网页的关键指数,包括:
若网页存在所述第一关键指数和所述第二关键指数,则判断所述第一关键指数是否大于所述第二关键指数,若是,则将所述第一关键指数确定为所述网页的关键指数,否则将所述第二关键指数确定为所述网页的关键指数;
若网页存在所述第一关键指数或所述第二关键指数,则将所述第一关键指数或所述第二关键指数确定为所述网页的关键指数。
4.如权利要求1所述的方法,其特征在于,所述根据所述各网页的关键指数确定出所述各网页的关键度,并进行排序,包括:
将所述各网页的关键指数的倒数确定为所述各网页的关键度;
根据所述各网页的关键度的大小,将所述各网页按照所述关键度从大到小的顺序进行排序。
5.如权利要求1所述的方法,其特征在于,所述由预设指数函数确定所述待监测网页金字塔中每一层放入网页的数量,包括:
根据所述待监测网站的网页的总数量以及所述待监测网页金字塔可存放网页的第二预设值数量确定出所述网站的规模系数;
根据所述规模系数和预设指数函数确定出所述待监测网页金字塔中每一层放入网页的数量。
6.如权利要求1所述的方法,其特征在于,所述确定出所述待监测网页金字塔中各层的监测周期以及各层的监测周期对应的监测网页数量,包括:
根据所述预设的基准监测周期和所述预设的指数函数确定出所述待监测网页金字塔中各层的监测周期;
根据所述待监测网页金字塔的层数和所述预设的指数函数确定出所述各层的监测周期对应的监测网页数量。
7.如权利要求1所述的方法,其特征在于,所述根据所述待监测网页金字塔中各层的监测周期以及各层的监测周期对应的监测网页数量,通过滑动监测网页的方式对所述待监测网页金字塔中各层的网页进行监测,包括:
确定所述待监测网页金字塔中各层的每监测周期滑动的网页的数量;
依据所述各层的每监测周期滑动的网页的数量以及各层的监测周期对应的监测网页的数量从所述待监测网页金字塔中各层选取网页进行监测。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于绿盟科技集团股份有限公司;北京神州绿盟科技有限公司,未经绿盟科技集团股份有限公司;北京神州绿盟科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010731482.3/1.html,转载请声明来源钻瓜专利网。