[发明专利]卷积神经网络(CNN)处理方法和设备有效
申请号: | 201711365593.1 | 申请日: | 2017-12-18 |
公开(公告)号: | CN108229655B | 公开(公告)日: | 2023-09-05 |
发明(设计)人: | 孙昌用;孙辰雨;崔昌圭;韩在濬 | 申请(专利权)人: | 三星电子株式会社 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464 |
代理公司: | 北京铭硕知识产权代理有限公司 11286 | 代理人: | 张川绪;王兆赓 |
地址: | 韩国京畿*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 cnn 处理 方法 设备 | ||
1.一种处理器实现的卷积神经网络处理方法,包括:
基于使用高速卷积网络在输入与内核之间执行高速卷积操作的结果,在精确卷积网络中选择生存网络;
使用生存网络,在所述输入与所述内核之间执行精确卷积操作,
其中,执行高速卷积操作的步骤包括:
将所述输入分为与所述输入的高阶位对应的高阶位输入以及与所述输入的低阶位对应的低阶位输入;
将所述内核分为与所述内核的高阶位对应的高阶位内核以及与所述内核的低阶位对应的低阶位内核;
在高阶位输入与高阶位内核之间执行卷积操作,
其中,将所述输入分为与所述输入的高阶位对应的高阶位输入以及与所述输入的低阶位对应的低阶位输入的步骤包括:
通过将所述输入右移位来获得高阶位输入,并且通过将所述输入与对高阶位输入进行左移位的结果之间的差右移1位来获得低阶位输入,
其中,将所述内核分为与所述内核的高阶位对应的高阶位内核以及与所述内核的低阶位对应的低阶位内核的步骤包括:
通过将所述内核右移位来获得高阶位内核,并且通过将所述内核与对高阶位内核进行左移位的结果之间的差右移1位来获得低阶位内核,
其中,所述输入是图像或语音。
2.根据权利要求1所述的卷积神经网络处理方法,其中,选择的步骤包括:
基于高速卷积操作的结果获得输入元素的索引和内核元素的索引,其中,所述输入元素和所述内核元素均对精确卷积操作有贡献;
基于所述输入元素的索引和所述内核元素的索引,选择生存网络。
3.根据权利要求1所述的卷积神经网络处理方法,其中,选择的步骤包括:
通过执行高速卷积操作获得近似输出;
从近似输出的多个输出元素,选择对精确卷积操作有贡献的输出元素;
在精确卷积网络中反向选择与所选择的输出元素相关联的生存网络。
4.根据权利要求3所述的卷积神经网络处理方法,其中,选择输出元素的步骤包括:
使用修正线性单元ReLU层,对近似输出的多个输出元素执行ReLU操作;
从ReLU操作的结果的多个输出元素,选择具有非零值的输出元素。
5.根据权利要求3所述的卷积神经网络处理方法,其中,选择输出元素的步骤包括:
执行用于确定近似输出的多个输出元素是否超过阈值的比较操作;
从近似输出的多个输出元素,选择在比较操作中被确定为超过阈值的具有非零值的输出元素。
6.根据权利要求3所述的卷积神经网络处理方法,其中,选择输出元素的步骤包括:
使用修正线性单元ReLU层,对近似输出的多个输出元素执行ReLU操作;
使用最大池化层,对ReLU操作的结果的多个输出元素执行最大池化操作;
从最大池化操作的结果的多个输出元素,选择具有代表值的输出元素,其中,所述代表值代表ReLU操作的结果的多个输出元素的区域。
7.根据权利要求3所述的卷积神经网络处理方法,其中,选择输出元素的步骤包括:
使用修正线性单元ReLU层,对近似输出的多个输出元素执行ReLU操作;
将ReLU操作的结果的多个输出元素分组为至少一个组;
从每个组中的多个输出元素,选择该组中的具有非零值的多个输出元素之中的具有最大值的输出元素,或者选择具有比所述最大值小特定差的值的输出元素,其中,该特定差小于阈值。
8.根据权利要求3所述的卷积神经网络处理方法,其中,选择输出元素的步骤包括:
执行用于确定近似输出的多个输出元素是否超过第一阈值的比较操作;
将近似输出的在比较操作中被确定为超过第一阈值的多个输出元素分组为至少一个组;
从每个组中的多个输出元素,选择该组中的具有非零值的多个输出元素之中的具有最大值的输出元素,或者选择具有比所述最大值小特定差的值的输出元素,其中,该特定差小于第二阈值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于三星电子株式会社,未经三星电子株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711365593.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:神经网络卷积运算装置及方法
- 下一篇:神经网络运算装置及方法