[发明专利]卷积神经网络系统及其操作方法有效
申请号: | 201711337020.8 | 申请日: | 2017-12-14 |
公开(公告)号: | CN108229653B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 梁承秀 | 申请(专利权)人: | 三星电子株式会社 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/082;G06N3/063 |
代理公司: | 北京铭硕知识产权代理有限公司 11286 | 代理人: | 姜长星;张川绪 |
地址: | 韩国京畿*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 系统 及其 操作方法 | ||
一种卷积神经网络系统及其操作方法。一种卷积神经网络的操作方法包括:执行用于确定至少一个内核与输入特征图之间的相关性的卷积环;确定输入特征图上的最大位置,其中,所述最大位置与基于卷积环产生的输出特征的最大值对应;通过使用所述至少一个内核的卷积环来处理输入特征图的第一区域的第一数据,其中,第一区域与所述最大位置相关联。处理第一数据的步骤包括:跳过输入特征图的第二区域的第二数据的卷积操作,其中,第二区域与所述最大位置无关。
本申请要求于2016年12与22日提交到韩国知识产权局的第10-2016-0177031号韩国专利申请的优先权,所述韩国专利申请的全部内容通过引用包含于此。
技术领域
与示例实施例一致的设备和方法涉及一种神经网络系统,更具体地讲,涉及一种能够降低计算成本和功耗的卷积神经网络系统及其操作方法。
背景技术
近来,卷积神经网络(CNN)已成为用于图像识别的选择的深度神经网络技术。CNN具有多个卷积层。每个卷积层接收M个输入特征图,以产生N个输出特征图,其中,M和N是自然数。CNN执行下采样(或子采样),以降低作为多个卷积操作的结果而产生的特征图的大小。
在计算复杂度方面基本上占据整个CNN处理的最重要部分的操作是卷积。与CNN的其他操作相比,大量功率被消耗以执行乘法和累积操作被迭代的卷积操作。因此,为实现执行卷积神经网络CNN的硬件,存在对降低卷积操作的计算复杂度的需求。
发明内容
一个或多个示例实施例提供一种能够减少卷积神经网络系统中的具有大部分计算复杂度的卷积操作的卷积神经网络系统及其操作方法。
根据示例实施例的一方面,一种卷积神经网络的操作方法包括:执行用于计算至少一个内核与输入特征图之间的相关性的多个卷积环;确定输入特征图上的最大位置,其中,所述最大位置与基于所述多个卷积环产生的输出特征的最大值对应;通过使用所述至少一个内核的卷积环来处理输入特征图的第一区域的第一数据,其中,第一区域与所述最大位置相关联。处理第一数据的步骤可包括:跳过输入特征图的第二区域的第二数据的卷积操作,其中,第二区域与所述最大位置无关。
根据另一示例实施例的一方面,一种卷积神经网络系统可包括:输入缓冲器,被配置为缓冲输入图像和输入特征图中的至少一个;处理元件单元,使用来自输入缓冲器的输入图像和输入特征图中的所述至少一个以及至少一个内核来执行卷积操作;输出缓冲器,被配置为存储作为处理元件单元的卷积操作的结果输出的输出特征;控制器,被配置为:控制输入缓冲器、处理元件单元和输出缓冲器执行用于处理输入图像和输入特征图中的所述至少一个的卷积环,并检测与基于卷积环产生的输出特征的最大值相关联的最大位置;最大位置缓冲器,被配置为存储所述最大位置。
根据另一示例实施例的一方面,一种方法包括:确定输入特征图的最大位置,其中,输入特征图的与经由卷积环产生的输出特征的最大值对应的位置收敛于所述最大位置;仅对输入特征图的与所述最大位置对应的第一区域执行卷积环以产生输出特征图,同时跳过输入特征图的不与所述最大位置对应的第二区域上的卷积环的执行;存储所述最大位置。
附图说明
通过下面参照下面的附图的描述,以上和/或其他方面将会变得清楚和更容易理解,其中,除非另外说明,否则贯穿各个的附图,相同的参考标号表示相同的部件,其中:
图1是示出根据示例实施例的卷积神经网络系统的框图;
图2是示出在图1的卷积神经网络系统中执行的操作的示图;
图3是示出卷积层和池化层的操作的示图;
图4是示出根据示例实施例的卷积操作的特性的示图;
图5是示出根据示例实施例的下采样过程的示图;
图6是示出根据示例实施例的卷积层中的操作的示图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于三星电子株式会社,未经三星电子株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711337020.8/2.html,转载请声明来源钻瓜专利网。