[发明专利]一种基于改进AdaBoost算法的集成深度信念网络图像识别方法

说明书

技术领域：

本发明涉及深度学习与图像识别领域，具体地说是一种利用多个规模不同且相互独立的并行DBN对图像进行识别的方法。

背景技术：

随着计算机技术的不断发展与进步，人们对数字图像方面的应用需求也越来越多，比如在军事侦查、公共场所的安全、工业自动化、生活智能化以及环境监测等领域。随着图像捕获设备(如监控摄像头、摄像手机、运动相机等)的迅速发展，海量的图像数据可以更容易的获取，数据采集的环境更容易人为控制；随着存储设备的技术升级，海量数据存储问题得以解决，使得图像识别技术性能显著提高成为可能。但传统图像识别技术由于人为的参与指导，无法持续高效地对图像进行处理与识别，已不能满足实际应用的需要，因此研究和开发智能化的图像识别系统有着巨大的应用价值。

图像识别技术的效果往往受到噪声、姿态以及背景等因素的影响。基于自动学习特征的识别算法改变了传统图像特征需人为设定的劣势，从而有更广阔的应用前景。因此为提高图像识别的效率，研究智能化的图像特征提取技术有着重要的理论与应用意义。

发明内容：

本发明的目的是为构建一种具有较高应用价值、简单易行的图像识别方法。

本发明中首先构建若干个规模不同且相互独立的并行深信念网络(DBN)模型及对应的分类器，然后通过引入AdaBoost算法集成多个分类效果偏差的DBN弱分类器而得到强分类器，并通过训练获得强分类器的参数。在具体实施时，利用多个不同结构的深度信念网络初步地拟合数据的分布，并通过微调各个DBN模型以便能在一个有限时间内贪心地获得各个分类器的最优分类效果；再利用AdaBoost算法集成网络中各DBN分类器得到整个网络模型的强分类器；最后对强分类器利用BP算法做整体上的深度微调，从而实现由初始化强分类器的权值状态寻找更好的局部最优的网络参数。以上方法解决了分类精度与激活函数在深层次中存在的矛盾。

具体的技术方案如下：

(1)初始化各个DBN中的网络权值以及AdaBoost集成框架的配置参数；

(2)将图像转变为一个列向量并归一化，以此作为各深度信念网络的输入进行预训练并微调每个DBN；

(3)计算样本权值并训练分类器C_i，计算C_i的错误率；

(4)计算当前DBN的分类器的权值，更新样本权值；

(5)重复(3)和(4)，直到收敛；

(6)归一化各分类器的权值系数；

(7)利用BP算法整体微调由AdaBoost集成多个DBN分类器而得到的强分类器。

本发明的有益效果是:

1、建立一种基于改进AdaBoost集成深度信念网络结构，并设计相应的图像识别算法；

2、本发明一定程度上解决了深度学习模型中梯度弥散、梯度爆炸以及训练时间过长等问题，并提高了图像的识别率；

3、本发明中所给出识别方法的效果不受颜色、光照及物体姿势等的影响，对图像的检测与识别有可参考和应用的价值。

附图说明：

图1为本发明中基于改进AdaBoost的集成深度信念网络结构；

图2为本发明中对三隐层-四分类器模型进行微调及整体微调前后的底层特征；

图3为本发明在MNIST、USPS及ETH-80数据集上不同模型的错误率。

具体实施方式：

下面结合附图和实例进一步说明本发明的实质内容，但本发明的内容并不限于此。

实施例1：

(1)训练与测试集的准备：从MNIST数据集中每类取1000张构成训练集，每类100张构成测试集；从USPS数据集中每类取500张组成训练集，每类50张组成测试集；从ETH-80数据集中每类取300张组成训练集，每类100张组成测试集。

(2)DBN模型的构建：方法实施中我们考虑以下4种DBN网络结构模型：DBN(4)[400,256,100,64],DBN(6)[400,256,196,144,100,64]以及AdaBoost+DBN(4){[400,256,100,64]，[256,144,100,64],[100,81,81,60],[225,196,144,100]}，其中每个模型的中括号内数据为该模型隐层单元数，数据个数表示该模型的隐层数。

(3)以归一化的图像向量作为模型的输入训练各网络模型并进行微调，不断更新各模型中分类器的权值和样本的权值，直到收敛。