[发明专利]用于处理神经网络中的卷积运算的方法和装置

说明书

提供了一种基于输入特征图的重用来执行卷积核与输入特征图之间的卷积运算的方法、以及使用该方法的神经网络装置。神经网络装置生成卷积核的每个权重与输入特征图之间的运算的输出值，并且通过在输出特征图中的基于卷积核中的权重的位置而设置的位置处累加输出值来生成输出特征图。

相关申请的交叉引用

本申请要求于2018年12月27日向韩国知识产权局递交的韩国专利申请No.10-2018-0171132的优先权，其全部公开内容通过引用并入本文中以用于所有目的。

技术领域

提供了用于处理神经网络中的卷积运算的方法和装置。

背景技术

神经网络是专门的计算架构，其在经过大量训练后，可以在输入模式和输出模式之间提供计算直观的映射。根据神经网络技术的最新发展，在各种类型的电子系统中使用神经网络装置来分析输入数据，并且提取有效信息。

神经网络装置对输入数据执行大量运算。已经对能够有效处理神经网络运算的技术进行了研究。

发明内容

提供了本发明内容以用简化形式来介绍下面在具体实施方式中进一步描述的理念的选择。本发明内容不旨在标识所请求保护的主题的关键特征或必要特征，也不旨在用作帮助确定所请求保护的主题的范围。

在一个总体方面中，提供了神经网络装置，包括：处理器，被配置为生成卷积核的每个权重与输入特征图之间的运算的输出值，并且通过在输出特征图中的基于卷积核中的权重的位置而设置的位置处累加输出值来生成输出特征图。

处理器可以被配置为：通过执行输入特征图与卷积核的第一权重之间的运算来生成第一输出值；在输出特征图中的基于卷积核中的第一权重的位置的第一位置处累加第一输出值；通过执行输入特征图与卷积核的第二权重之间的运算来生成第二输出值；以及在输出特征图中的基于卷积核中的第二权重的位置的第二位置处累加第二输出值。

处理器可以被配置为：通过执行输入特征图的第一区域与卷积核的每个权重之间的运算来生成第一输出值；通过在第一部分输出特征图中的基于卷积核中的相应权重的位置的位置处累加第一输出值来生成第一部分输出特征图；以及在输出特征图上累加第一部分输出特征图。

处理器可以被配置为：通过执行输入特征图中的第二区域与卷积核的每个权重之间的运算来生成第二输出值，该第二区域不同于第一区域；通过在第二部分输出特征图中的基于卷积核中的相应权重的位置的位置处累加第二输出值来生成第二部分输出特征图；以及在输出特征图上累加第二部分输出特征图。

第一区域可以包括输入特征图中的n个像素、n×m个像素或者n×m×l个像素中的至少一个，其中n、m和l是大于或等于1的自然数。

处理器可以被配置为：响应于卷积核的权重中的第一权重为零，跳过输入特征图与第一权重之间的运算。

处理器可以被配置为：通过从存储器连续地流读取经压缩的输入特征图，来执行卷积核的每个权重与经压缩的输入特征图之间的运算。

处理器可以包括：运算单元，被配置为通过执行输入特征图的区域之中的不同区域与卷积核之间的运算来生成部分输出特征图；以及输出单元，被配置为通过累加部分输出特征图之中的一个或多个部分输出特征图来生成输出特征图的区域中的每一个区域。

运算单元中的一个或多个运算单元可以被配置为独立于彼此并且彼此并行地执行卷积核与不同区域之间的运算。

神经网络装置可以包括总线，其中，输出单元可以被配置为通过总线从运算单元接收一个或多个部分输出特征图。

运算单元中的每一个运算单元可以包括多个处理单元，处理单元被配置为通过执行输入特征图的区域之中的区域与多个卷积核中的每一个卷积核之间的运算来生成部分输出特征图。