[发明专利]搜索引擎爬虫的识别、处理方法及装置有效
申请号: | 201510142387.9 | 申请日: | 2015-03-27 |
公开(公告)号: | CN106156055B | 公开(公告)日: | 2019-10-15 |
发明(设计)人: | 任宏伟 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 北京博浩百睿知识产权代理有限责任公司 11134 | 代理人: | 宋子良 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种搜索引擎爬虫的识别、处理方法及装置。其中,该识别方法包括:获取客户端在统计周期的各个统计时间段内对多个网站进行访问后统计得到的统计数据,其中,所述各个统计时间段组成所述统计周期;对所述统计数据中与指定统计参数对应的数据进行预处理,得到统计值,其中,所述指定统计参数用于反映所述统计数据的相同统计特征;在每个所述指定统计参数对应的统计值均大于预设阈值时,确定所述客户端对所述网站的访问行为为搜索引擎爬虫访问。本发明解决了相关技术中由于搜索引擎爬虫识别存在的漏报、误检测等导致的准确性和可靠性不高等技术问题。 | ||
搜索关键词: | 搜索引擎 爬虫 识别 处理 方法 装置 | ||
【主权项】:
1.一种搜索引擎爬虫的识别方法,其特征在于,包括:获取客户端在统计周期的各个统计时间段内对多个网站进行访问后统计得到的统计数据,其中,所述各个统计时间段组成所述统计周期;对所述统计数据中与指定统计参数对应的数据进行预处理,得到统计值,其中,该统计值用于反映在所述各个统计时间段内针对所述客户端的访问行为的统计结果,所述指定统计参数用于反映所述统计数据的相同统计特征;在每个所述指定统计参数对应的统计值均大于预设阈值时,确定所述客户端对所述网站的访问行为为搜索引擎爬虫访问;其中,所述指定统计参数包括以下至少之一:在所述统计周期内所述客户端所访问网站的数量和访问频率。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510142387.9/,转载请声明来源钻瓜专利网。
- 上一篇:一种加载页面模块的方法和设备
- 下一篇:一种设备迁移的方法及资源管理中心