[发明专利]卷积神经网络（CNN）处理方法和设备

说明书

提供一种卷积神经网络(CNN)处理方法和设备。一种卷积神经网络(CNN)处理方法包括：基于使用高速卷积网络在输入与内核之间执行高速卷积操作的结果，在精确卷积网络中选择生存网络；使用生存网络，在所述输入与所述内核之间执行精确卷积操作。

本申请要求于2016年12月22日提交到韩国知识产权局的第10-2016-0176617号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

下面的描述涉及卷积神经网络(CNN)处理技术。

背景技术

基于神经网络的深度学习技术被用于各种领域。例如，识别脸部、虹膜和语音的基于深度学习的生物测量学识别/认证应用由嵌入式终端(例如，智能电话)使用。CNN是利用卷积操作的多层神经网络，并且在基于深度学习的图像识别和语音识别的领域中呈现出优异的性能。

发明内容

提供本发明内容以简化的形式介绍在以下具体实施方式中进一步描述的构思的选择。本发明内容既不意在标识所要求保护的主题的关键特征或必要特征，也不意在用于帮助确定所要求保护的主题的范围。

在一个总体方面，一种处理器实现的卷积神经网络(CNN)处理方法包括：基于使用高速卷积网络在输入与内核之间执行高速卷积操作的结果，在精确卷积网络中选择生存网络；使用生存网络，在所述输入与所述内核之间执行精确卷积操作。

选择的步骤可包括：基于高速卷积操作的结果获得输入元素的索引和内核元素的索引，其中，所述输入元素和所述内核元素均对精确卷积操作有贡献；基于所述输入元素的索引和所述内核元素的索引选择生存网络。

选择的步骤可包括：通过执行高速卷积操作获得近似输出；从近似输出的多个输出元素，选择对精确卷积操作有贡献的输出元素；在精确卷积网络中反向选择与所选择的输出元素相关联的生存网络。

选择输出元素的步骤可包括：使用修正线性单元(ReLU)层，对近似输出的多个输出元素执行ReLU操作；从ReLU操作的结果的多个输出元素，选择具有非零值的输出元素。

选择输出元素的步骤可包括：执行用于确定近似输出的多个输出元素是否超过阈值的比较操作；从近似输出的多个输出元素，选择在比较操作中被确定为超过阈值的具有非零值的输出元素。

选择输出元素的步骤可包括：使用修正线性单元(ReLU)层，对近似输出的多个输出元素执行ReLU操作；使用最大池化层，对ReLU操作的结果的多个输出元素执行最大池化操作；从最大池化操作的结果的多个输出元素，选择具有代表ReLU操作的结果的多个输出元素的区域的代表值的输出元素。

选择输出元素的步骤可包括：使用修正线性单元(ReLU)层，对近似输出的多个输出元素执行ReLU操作；将ReLU操作的结果的多个输出元素分组为至少一个组；从组中的多个输出元素，选择该组中的具有非零值的多个输出元素之中的具有最大值的输出元素，或者选择具有比所述最大值小了小于阈值的差的值的输出元素。

选择输出元素的步骤可包括：执行用于确定近似输出的多个输出元素是否超过第一阈值的比较操作；将近似输出的在比较操作中被确定为超过第一阈值的多个输出元素分组为至少一个组；从组中的多个输出元素，选择该组中的具有非零值的多个输出元素之中的具有最大值的输出元素，或者选择具有比所述最大值小了小于第二阈值的差的值的输出元素。

选择的步骤可包括：通过执行高速卷积操作获得近似输出；从近似输出的多个输出元素，选择对精确卷积操作有贡献的输出元素；通过从精确卷积网络反向消除与所选择的输出元素不相关的冗余网络，来选择生存网络。

选择的步骤可包括：通过在所述输入与对所述内核进行分解产生的多个子内核之间执行顺序卷积操作，来执行高速卷积操作。