[发明专利]一种基于主动学习和模型剪枝的集成学习方法及装置

权利要求书

1.一种综合主动学习技术和模型剪枝技术的集成学习方法，其特征在于，所述方法包括：

利用一组未标记的样本集合和一组已标记的样本集合作为输入；

利用已标记样本集合训练基本的机器学习模型集合；

利用主动学习方法提高已训练的机器学习模型集合的准确度；

利用模型剪枝方法，对模型集合进行筛选；

集成筛选后的模型集合，作为最终的机器学习模型。

2.根据权利要求1所述的方法，其特征在于，所述主动学习方法，包括：

利用一组未标记样本，得到模型集合中每个模型对每个样本的预测值；

对每个未标记样本，利用模型集合预测出的一组预测值的平均值计算该样本对模型集合的适用程度；

使用人工标注所有未标记样本中适用程度最高的N个样本，其中N为预先指定的值；

利用标注后的这N个样本重新训练模型集合；

不断重复，直到学习效果无法继续提高为止。

3.根据权利要求2所述的方法，其特征在于，所述计算每个样本对模型集合的适用程度，包括：

对某个样本，记各模型预测值的平均值为依下式计算样本对模型集合的适用程度：

$a=-log(e^{\stackrel{\‾}{f}/2}+e^{-\stackrel{\‾}{f}/2})$

4.根据权利要求1所述的方法，其特征在于，所述模型剪枝方法，包括：

使用一组已标记的样本集合以及一组训练好的机器学习模型作为输入；

初始化模型集合，只包含单独使用效果最好的模型；

依次加入对当前已选模型集合适用程度最高的模型；

不断重复，直到学习效果无法继续提高为止。

5.根据权利要求4所述的方法，其特征在于，所述适用程度的计算方法，包括：

设某样本标准答案为y，其预测值的平均为依下式计算模型集合对该样本的适用程度：

$\frac{y\stackrel{\‾}{f}}{log(e^{\stackrel{\‾}{f}/2}+e^{-\stackrel{\‾}{f}/2})}$

对样本集合中所有样本的适用程度求和，即得到模型集合对样本集合的适用程度。

6.根据权利要求1所述的方法，其特征在于，所述模型集合的集成方法，包括：

可使用包括投票法、加权平均法、元学习法等诸多方法进行集成。