[发明专利]一种分类网络及其实现方法和装置在审
申请号: | 202110113089.2 | 申请日: | 2021-01-27 |
公开(公告)号: | CN112766397A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 冯蓬勃;张一凡;刘杰 | 申请(专利权)人: | 歌尔股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京市隆安律师事务所 11323 | 代理人: | 权鲜枝 |
地址: | 261031 山东省潍*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分类 网络 及其 实现 方法 装置 | ||
1.一种分类网络的实现方法,包括:
基于IRv2算法构建包括Stem模块、多个Inception模块和多个IR模块的分类网络,其中,所述多个Inception模块包括剪枝Inception模块和非剪枝Inception模块,所述分类网络的批标准化BN层使用γ参数;
对所述分类网络进行初始化,并对初始化的分类网络进行稀疏化训练,得到稀疏化的γ参数;
基于稀疏化的γ参数,对稀疏化训练后的分类网络进行剪枝处理,其中,对所述Stem模块、所述剪枝Inception模块和所述多个IR模块进行network slimming剪枝,对所述非剪枝Inception模块不进行network slimming剪枝。
2.如权利要求1所述的方法,其特征在于,所述对稀疏化训练后的分类网络进行剪枝处理包括:
对所述Stem模块中首个卷积层的输入通道,不进行network slimming剪枝。
3.如权利要求2所述的方法,其特征在于,所述对稀疏化训练后的分类网络进行剪枝处理包括:
依据所述Stem模块中最后一个卷积层的输出通道的数量和序号,确定所述剪枝Inception模块中,每一个分支下首个卷积层的输入通道的数量和序号。
4.如权利要求1所述的方法,其特征在于,
所述Inception模块包括Mixed_5b模块和Mixed_7a模块,其中Mixed_5b模块为剪枝Inception模块,所述Mixed_7a模块为非剪枝Inception模块。
5.如权利要求1所述的方法,其特征在于,所述对稀疏化训练后的分类网络进行剪枝处理包括:
对所述IR模块中每一个inception分支下的首个卷积层的输入通道,不进行networkslimming剪枝。
6.如权利要求5所述的方法,其特征在于,所述对稀疏化训练后的分类网络进行剪枝处理包括:
根据各inception分支中最后一个卷积层的输出通道的数量和序号,确定所述IR模块中,连接在concat层后的首个卷积层的输入通道的数量和序号。
7.如权利要求1所述的方法,其特征在于,所述对所述Stem模块、所述剪枝Inception模块和所述多个IR模块进行network slimming剪枝包括:
对Block35模块、Block17模块以及Block8模块这三种IR模块进行network slimming剪枝。
8.如权利要求1~7中任一项所述的方法,其特征在于,所述方法还包括:
对经过所述剪枝处理后的分类网络进行微调;
若微调后的分类网络的剪枝率达到预设值,则输出微调后的分类网络;否则,对微调后的分类网络进行所述稀疏化训练,并对稀疏化训练后的分类网络再次进行所述剪枝处理。
9.一种分类网络的实现装置,其特征在于,用于实现如权利要求1~8中任一项所述的方法。
10.一种基于IRv2算法的分类网络,包括Stem模块、多个Inception模块和多个IR模块,其特征在于,所述Inception模块包括剪枝Inception模块和非剪枝Inception模块,
所述Stem模块、所述剪枝Inception模块和所述IR模块经过network slimming剪枝,所述非剪枝Inception模块不经过network slimming剪枝。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于歌尔股份有限公司,未经歌尔股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110113089.2/1.html,转载请声明来源钻瓜专利网。