[发明专利]卷积神经网络去冗余方法及装置、电子设备和存储介质在审
申请号: | 201711183838.9 | 申请日: | 2017-11-23 |
公开(公告)号: | CN108229679A | 公开(公告)日: | 2018-06-29 |
发明(设计)人: | 杨成熙;孙文秀;庞家昊 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62;G06N3/04 |
代理公司: | 北京思源智汇知识产权代理有限公司 11657 | 代理人: | 毛丽琴 |
地址: | 100084 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积神经网络 神经网络 存储介质 电子设备 冗余 相似度 剪枝 初始卷积 目标卷 卷积 | ||
1.一种卷积神经网络去冗余方法,其特征在于,包括:
针对初始卷积神经网络,确定各卷积核之间的相似度;
根据所述各卷积核之间的相似度,对所述初始神经网络的卷积层进行剪枝处理;
对剪枝后的卷积神经网络进行训练,得到目标卷积神经网络。
2.根据权利要求1所述的方法,其特征在于,还包括:训练得到所述初始卷积神经网络;
所述训练得到所述初始卷积神经网络包括:确定满足预置准确度标准的网络结构;根据数据样本训练网络,得到满足所述网络结构的初始卷积神经网络。
3.根据权利要求1所述的方法,其特征在于,根据所述各卷积核之间的相似度,对所述初始神经网络的卷积层进行剪枝,包括:
将各卷积层的各卷积核之间的相似度与预设的剪枝相似度阈值进行比较;
消除高于所述剪枝相似度阈值的相似度对应的卷积核。
4.根据权利要求3所述的方法,其特征在于,针对所述初始卷积神经网络,计算所述各卷积核之间的相似度,包括:
针对所述初始卷积神经网络,计算各卷积核之间的欧式距离或余弦距离;
通过各卷积核之间的欧式距离或余弦距离,确定各卷积核之间的相似度。
5.根据权利要求4所述的方法,其特征在于,所述消除高于所述剪枝相似度阈值的相似度对应的卷积核,包括:
消除低于预设剪枝欧式距离阈值的欧式距离对应的卷积核,或者,消除低于预设剪枝余弦距离阈值的余弦距离对应的卷积核。
6.根据权利要求4所述的方法,其特征在于,所述针对所述初始卷积神经网络,计算各卷积核之间的欧式距离或余弦距离,包括:
针对所述初始卷积神经网络中的每一个卷积层,根据卷积层的卷积核大小,确定特征图的输出通道数量;
根据每个输出通道的参数构成M个向量;
计算所述M个向量每两个向量之间的欧式距离为各卷积核之间的欧式距离,或者,计算所述M个向量每两个向量之间的余弦距离为各卷积核之间的余弦距离。
7.根据权利要求6所述的方法,其特征在于,所述根据各卷积核之间的相似度,对所述神经卷积网络的卷积层进行剪枝,包括:
根据所述M个向量每两个向量之间的欧式距离得到第一矩阵;将所述第一矩阵中的欧式距离数值与预设的剪枝欧式距离阈值进行比较;在所述第一矩阵中,将大于所述剪枝欧式距离阈值的位置设置为0,将小于所述剪枝欧式距离阈值的位置设置为1,得到第二矩阵;
或者,根据所述M个向量每两个向量之间的余弦距离得到第一矩阵;将所述第一矩阵中的余弦距离数值与预设的剪枝余弦距离阈值进行比较;在所述第一矩阵中,将大于所述剪枝余弦距离阈值的位置设置为0,将小于所述剪枝余弦距离阈值的位置设置为1,得到第二矩阵。
8.一种卷积神经网络去冗余装置,其特征在于,包括:
相似度确定单元,用于针对初始卷积神经网络,确定各卷积核之间的相似度;
剪枝单元,用于根据所述各卷积核之间的相似度,对所述初始神经网络的卷积层进行剪枝处理;
目标训练单元,用于对剪枝后的卷积神经网络进行训练,得到目标卷积神经网络。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7任一项所述方法的步骤。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1-7任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711183838.9/1.html,转载请声明来源钻瓜专利网。