[发明专利]确定网站抓取流量配额的方法及设备有效
| 申请号： | 201310500682.8 | 申请日： | 2013-10-22 |
| 公开（公告）号： | CN103544278B | 公开（公告）日： | 2017-02-01 |
| 发明（设计）人： | 魏少俊 | 申请（专利权）人： | 北京奇虎科技有限公司;奇智软件（北京）有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;H04L12/917 |
| 代理公司： | 北京华沛德权律师事务所11302 | 代理人： | 刘杰 |
| 地址： | 100088 北京市西城区新*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了确定网站抓取流量配额的方法及设备，其中所述方法包括获取待抓取目标网站的受访问数据；根据所述受访问数据，确定所述目标网站的抓取承受流量；获取所述目标网站内网页的网页质量分布；根据所述目标网站内网页的所述网页质量分布，确定抓取目标网站的任务流量；根据所述目标网站的抓取承受流量，以及所述抓取目标网站的任务流量，确定在所述目标网站上进行网页抓取的流量配额。通过本方法，能够在搜索引擎爬虫程序抓取网站中的网页时，更好的分配在目标网站上进行网页抓取的流量配额，减少了爬虫程序与被抓取站点的冲突，使爬虫程序抓取行为与搜索引擎更新需求得到了合理的平衡。 | ||
| 搜索关键词： | 确定 网站 抓取 流量 配额 方法 设备 | ||
【主权项】：
一种确定网站抓取流量配额的方法，包括：获取待抓取目标网站的受访问数据；根据所述受访问数据，确定所述目标网站的抓取承受流量；获取所述目标网站内网页的网页质量分布；根据所述目标网站内网页的所述网页质量分布，确定抓取目标网站的任务流量；根据所述目标网站的抓取承受流量，以及所述抓取目标网站的任务流量，确定在所述目标网站上进行网页抓取的流量配额。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件（北京）有限公司，未经北京奇虎科技有限公司;奇智软件（北京）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201310500682.8/，转载请声明来源钻瓜专利网。
