[发明专利]一种基于循环策略的深层网页数据获取方法

权利要求书

1.一种基于循环策略的深层网页数据获取方法，其特征在于，包括以下步骤：

步骤一、分别对多个同一领域的数据拳中的每一个数据源预设多个不同的查询关键词；

步骤二、依次对每一个数据源进行数据获取，其中，当对所述多个数据源中的第一个数据源进行数据获取时，计算当前数据源中的各查询关键词的查询效率，并按照查询效率对当前数据源中的查询关键词进行排序，根据查询效率从大到小的顺序依次选择各查询关键词对当前数据源进行一次又一次的数据获取，直到所述当前数据源的连续进行的α次数据获取的新数据获取率均不大于一新数据获取率阈值，则中止对当前数据源的数据获取，并对当前数据源的下一个数据源进行数据获取，直到最后一个数据源达到中止；

步骤三、检验所述多个数据源的数据获取是否均满足预设结束条件，如果不满足，则重复步骤一，直至所述多个数据源的数据获取均满足预设结束条件，其中，当对所述多个数据源中的任一个数据源满足预设结束条件时，则结束对该数据源的数据获取。

2.如权利要求1所述的基于循环策略的深层网页数据获取方法，其特征在于，

所述步骤二中，对多个数据源中的任一个数据源进行数据获取，通过以下步骤实现，

(1)当前数据源预设有n个查询关键词，计算各查询关键词的查询效率，并按照查询效率对查询关键词进行排序，根据查询效率从大到小的顺序选择第一个查询关键词，根据该查询关键词在当前数据源上进行第一次数据获取，所述数据获取过程为：在当前数据源上执行，从当前数据源下载与当前查询关键词匹配的数据记录；

(2)重复步骤(1)，且当重复步骤(1)的次数达到rK次之后，其中，rK＜n，r为大于等于1的整数，在根据第rK+1个查询关键词在当前数据源上获得与第rK+1个查询关键词匹配的数据记录之后，再从已经下载的数据记录中提取z个新的查询关键词，使得当前数据源对应的查询关键词的个数为n+z个。

3.如权利要求2所述的基于循环策略的深层网页数据获取方法，其特征在于，所述K值逐渐增大。

4.如权利要求1或2或3所述的基于循环策略的深层网页数据获取方法，其特征在于，所述查询关键词的查询效率Efficient(q_i,DB_j)与该查询关键词q_i在当前数据源DB_j上的查询回报率Reward(q_i,DB_j)成正比，且与该查询关键词q_i在当前的数据源DB_j上的数据获取代价Cost(q_i，DB_j)成反比。