[发明专利]基于卷积神经网络和极限学习机的手写体识别方法

权利要求书

1.一种基于卷积神经网络和极限学习机的手写体识别方法，其步骤如下

(1)初始化：

(1a)构建卷积神经网络；

(1b)随机产生加权极限学习机的输入权值与隐层偏置；

(2)划分数据集产生训练样本train和测试样本test；

(3)数据预处理：

(3a)将训练集数据进行归一化处理：train＝train/255；

(3b)将测试集数据进行归一化处理：test＝test/255；

(4)卷积神经网络提取特征：

(4a)随机产生卷积神经网络的卷积核；

(4b)使用初始化后的卷积神经网络，输入训练集，运行前馈神经网络，在最后一个池化层得到卷积神经网络提取的训练集特征；

(4c)使用初始化后的的卷积神经网络，输入测试集，运行前馈神经网络，在最后一个池化层得到卷积神经网络提取的测试集特征；

(5)训练极限学习机分类器：

(5a)将卷积神经网络提取的训练集特征p输入到极限学习机中，根据标签得到极限学习机的输出权重；

(5b)将卷积神经网络提取的测试集特征q输入到极限学习机中，得到最终的手写体识别结果。

2.根据权利要求1所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于在所述步骤(4)卷积神经网络提取特征具体为：

(4a)随机产生卷积神经网络的卷积核；

(4b)使用初始化后的卷积神经网络，输入训练集，训练卷积神经网络，得到一个训练好的卷积神经网络模型；

(4c)使用训练好的卷积神经网络模型，输入训练集，运行其前馈神经网络，在最后一个池化层得到卷积神经网络提取的训练集特征；

(4d)使用训练好的卷积神经网络模型，输入测试集，运行前馈神经网络，在最后一个池化层得到卷积神经网络提取的测试集特征。

3.根据权利要求1或2所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于步骤(2)划分数据集产生训练样本和测试样本的数据来源于MNIST数据库，随机选取其中数张图片作为训练样本train，随机选取数张图片作为测试样本test。

4.根据权利要求1或2所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于步骤(3)中，步骤(3a)将训练集数据进行归一化处理，train＝train/255，其中train为训练集样本；步骤(3b)将测试集数据进行归一化处理：test＝test/255，test为测试集样本。

5.根据权利要求1或2所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于步骤(1a)中所述卷积神经网络结构由输入层、第一卷积层、第一池化层、第二卷积层、第二池化层和全连接层构成，卷积层步长为d，卷积层激活函数为g(.)；步骤(5)中选择极限学习机作为分类器，确定它的隐层激励函数为g(·)，所述函数g(·)的公式如下：

池化层下采样函数为均池化函数down(.)：取四个点均值；选定隐层节点个数为L。

6.根据权利要求5所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于卷积层公式：

X代表该层输入数据；K为卷积核，b为归一化后测试样本或第i个隐层单元的偏置，

其中代表第l层第j个特征图，f(·)代表卷积层的激活函数，代表第l层第i个输入图像第j个输出图像对应的卷积核，代表该层的偏置，M_j表示输入特征图集合。

池化层公式：

X代表该层输入数据；b为归一化后测试样本或第i个隐层单元的偏置，

其中代表第l层第j个特征图，代表该特征图对应的偏置，down(·)代表下采样函数，下采样窗口为n*n，特征图经过下采样后缩小了n倍。

7.根据权利要求5所述的基于卷积神经网络和极限学习机的手写体识别方法，其特征在于L个隐层节点的单隐层极限学习机网络可以表示为：

其中β_i代表输出权重系数，g()代表激活函数，W_i×p_j表示W_i和p_j的内积。