[发明专利]训练装置、训练方法以及检测装置

说明书

本公开提供了训练装置、训练方法以及检测装置。一种用于对卷积神经网络模型进行训练的装置包括特征获取及竞争单元以及模型训练单元。特征获取及竞争单元包括：获取子单元，被配置成针对所述卷积神经网络模型的至少一个卷积层、获取训练样本数据的至少两个不同方面的特征；以及竞争子单元，被配置成基于所述获取子单元获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元素，以得到竞争结果特征。模型训练单元被配置成在训练卷积神经网络模型的过程中，针对所述至少一个卷积层，应用所述竞争结果特征来执行训练。

技术领域

本公开总体上涉及神经网络，具体而言，涉及基于卷积神经网络模型的训练装置、训练方法以及检测装置，并且尤其涉及一种用于对卷积神经网络模型进行训练的装置和方法以及一种通过该装置或方法训练得到的卷积神经网络模型来对输入数据进行检测的装置。

背景技术

人工神经网络也简称为神经网络或称作连接模型，是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

卷积神经网络(CNN)是人工神经网络的一种，并且在语音分析、图像识别等领域取得越来越多的关注和应用。例如，近几十年来，手写体中文字符识别技术在工业界和研究领域得到了广泛的关注并取得了很多进展，而基于卷积神经网络的识别技术是性能最好的识别技术之一。存在改进卷积神经网络的效率和准确性的需求。

发明内容

在下文中给出了关于本发明的简要概述，以便提供关于本发明的某些方面的基本理解。应当理解，这个概述并不是关于本发明的穷举性概述。它并不是意图确定本发明的关键或重要部分，也不是意图限定本发明的范围。其目的仅仅是以简化的形式给出某些概念，以此作为稍后论述的更详细描述的前序。

鉴于现有技术的上述缺陷，本发明的目的之一是提供一种在特征提取过程中提取多个方面的特征并对这些方面的特征进行竞争选择的用于对卷积神经网络模型进行训练的装置和方法，以至少克服现有的问题。

根据本公开的第一方面，提供一种用于对卷积神经网络模型进行训练的装置，其包括特征获取及竞争单元以及模型训练单元。特征获取及竞争单元包括：获取子单元，被配置成针对所述卷积神经网络模型的至少一个卷积层、获取训练样本数据的至少两个不同方面的特征；以及竞争子单元，被配置成基于所述获取子单元获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元素，以得到竞争结果特征。模型训练单元被配置成在训练卷积神经网络模型的过程中，针对所述至少一个卷积层，应用所述竞争结果特征来执行训练。

根据本公开的另一方面，提供一种通过如本公开的第一方面所述的装置训练得到的卷积神经网络模型来对输入数据进行检测的装置，该装置包括特征获取及竞争单元以及检测单元。特征获取及竞争单元包括：获取子单元，被配置成提取所述输入数据的至少两个不同方面的特征；以及竞争子单元，被配置成基于该获取子单元获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元素，以得到竞争结果特征。检测单元被配置成利用所述卷积神经网络模型、基于该竞争结果特征来进行检测。在所述进行检测的装置中，所提取的所述输入数据的至少两个不同方面的特征与在训练所述卷积神经网络模型时由所述进行训练的装置中的获取子单元获取的训练样本数据的至少两个不同方面的特征是对应的。

根据本公开的又一个方面，还提供一种对卷积神经网络模型进行训练的方法，包括：针对所述卷积神经网络模型的至少一个卷积层，获取训练样本数据的至少两个不同方面的特征；基于所获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元素，以得到竞争结果特征；以及在训练卷积神经网络模型的过程中，针对所述至少一个卷积层，应用所述竞争结果特征来进行训练。

依据本公开的其它方面，还提供了一种使得计算机用作如上所述的对卷积神经网络模型进行训练的装置的程序。