[发明专利]一种无人机检测用轻量卷积神经网络搭建的方法及设备在审
申请号: | 202210525383.9 | 申请日: | 2022-05-16 |
公开(公告)号: | CN114626510A | 公开(公告)日: | 2022-06-14 |
发明(设计)人: | 魏玲;胥志伟 | 申请(专利权)人: | 山东巍然智能科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06V10/82;G06V10/774;G06V20/17;G06V10/94;G06K9/62 |
代理公司: | 青岛鼎丞智佳知识产权代理事务所(普通合伙) 37277 | 代理人: | 王剑伟 |
地址: | 266600 山东省*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 无人机 检测 用轻量 卷积 神经网络 搭建 方法 设备 | ||
本发明提供了一种无人机检测用轻量卷积神经网络搭建的方法及设备,方法包括:采用Shuffle‑Net V2作为基本单元进行改进;将1×1点卷积替换为Ghost卷积,通过一系列廉价的线性变换生成更多的特征图;在Unit1部分额外添加1×1Ghost‑Conv卷积操作;添加深度可分离卷积操作;将RELU函数替换为h‑Swish函数;添加SE模块,完成轻量化卷积神经网络基本模块结构Ghost‑Shuffle的搭建;基于Zen‑NAS神经网络搜索算法搜索出最终的网络并部署于无人机平台;从根本上降低了网络的参数量和计算量,减小了模型的复杂度。
技术领域
本发明属于无人机影像检测技术领域,尤其涉及一种无人机检测用轻量卷积神经网络搭建的方法及设备。
背景技术
本发明涉及无人机低空遥感影像实时在线分析,主要针对更大宽度和更复杂的神经网络不能在计算力较弱的小型移动端设备上进行部署的问题,通过合理规划,进行轻量化卷积神经网络设计,使得设计优化网络结构的同时对相同任务的精度不造成影响,实现在无人机等移动端和嵌入式设备上的部署和运行,实现真正的卷积神经网络的应用价值。
目前对于轻量化卷积神经网络的设计包括以下几种:
基于紧性卷积结构设计卷积神经网络:基于紧性卷积结构设计的神经网络是手工对卷积计算形式和模型计算方式的改进,旨在减少参数量,计算量和复杂度。
基于模型压缩的轻量化卷积神经网络:基于设计好的神经网络结构进行模型压缩和加速的方法,称为基于模型压缩的轻量化卷积神经网络设计,常见的有低秩分解,参数量化、模型剪枝和知识蒸馏四种方法。
基于神经网络结构搜索:神经网络结构搜索是指在一定的搜索空间中,使用一定的搜索策略搜索到相应的网络结构,然后进行评估,将评估结果再反馈给下一轮的搜索,直到找到最优的网络结构。其主要由三部分组成,搜索空间、搜索策略和性能评估策略。
现有的基于紧性卷积结构设计卷积神经网络虽然可以有效的减少网络的计算量和参数量,但这需要设计人员大量的理论知识和先验技能,这些网络的特殊结构造成模型的泛化能力较差;而现有基于模型压缩的轻量化卷积神经网络,低秩分解和参数量化方法模型精度都会有一定的损失,模型剪枝方法需要花费很大的时间成本制定对应的剪枝策略,知识蒸馏方法一般只能应用于在分类任务中,应用场景有限。
通过合理规划,进行轻量化卷积神经网络设计,使得设计优化网络结构的同时对相同任务的精度不造成影响,降低参数量和计算量,减小模型的复杂度,是未来研究的一个重要方向。
发明内容
针对上述问题,本发明第一方面提供了一种无人机检测用轻量卷积神经网络搭建的方法,包括以下步骤:
步骤1,采用Shuffle-Net V2作为轻量化神经网络结构基本单元进行改进,并定义步长为1的基本模块为Unit1,定义步长为2的下采样模块为Unit2;
步骤2,将Shuffle-Net V2的1×1点卷积替换为Ghost卷积,通过一系列廉价的线性变换生成更多的特征图;
步骤3,在Unit1部分额外添加1×1Ghost-Conv卷积操作;
步骤4,在Shuffle-Net V2上添加深度可分离卷积操作;
步骤5,将RELU函数替换为h-Swish函数;
步骤6,添加SE模块,完成轻量化卷积神经网络基本模块结构Ghost-Shuffle的搭建;
步骤7,基于Zen-NAS神经网络搜索算法,添加参数量和计算量的约束条件,在轻量化的搜索空间内进行网络架构的搜索,并根据Zen-Score的分数搜索出最终的网络Ghost-Shuffle Net;将该网络部署在无人机平台上,通过约束参数量、计算量、模型大小、访存量4个条件进行网络结构的搜索,最终得到适用于无人机平台的轻量化主干网络Ghost-Shuffle Net-L。
在一种可能的设计中,上述步骤7的具体搜索步骤为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东巍然智能科技有限公司,未经山东巍然智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210525383.9/2.html,转载请声明来源钻瓜专利网。