[发明专利]一种基于注意力机制的脉冲卷积神经网络的图像分类方法在审
申请号: | 202010517660.2 | 申请日: | 2020-06-09 |
公开(公告)号: | CN111858989A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 赵雪青;张军军 | 申请(专利权)人: | 西安工程大学 |
主分类号: | G06F16/55 | 分类号: | G06F16/55;G06N3/04;G06N3/08 |
代理公司: | 西安弘理专利事务所 61214 | 代理人: | 燕肇琪 |
地址: | 710048 陕*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 注意力 机制 脉冲 卷积 神经网络 图像 分类 方法 | ||
本发明公开一种基于注意力机制的脉冲卷积神经网络的图像分类方法,其特征在于,具体的步骤为:步骤1,下载数据集;步骤2,对数据集进行预处理,得到预处理数据集;步骤3,建立脉冲卷积神经网络模型,所述脉冲卷积神经网络模型采用漏积分点火神经元模型;步骤4,采用所述脉冲卷积神经网络模型对预处理数据集进行训练,得到训练好的脉冲卷积神经网络模型;步骤5,输入待分类的图片,采用训练好的脉冲卷积神经网络模型对待分类进行分类,得到分类结果。本发明解决了现有技术中存在的图片分类效果不好的问题。
技术领域
本发明属于图像分类技术领域,涉及一种基于注意力机制的脉冲卷积神经网络的图像分类方法。
背景技术
视觉注意力机制是人类视觉所特有的大脑信号处理机制。大脑在进行视觉任务时,总是会优先获取认为有用的信息,而将次要的内容直接抛弃。注意力机制具有使神经网络只专注于选择特定的特征输入的能力。应用注意力机制,可以提高神经网络信息处理的效率和准确率。目前注意力机制在深度学习领域应用广泛且取得了不错的效果。
图像分类是计算机视觉领域的基本研究问题,对图像分类的研究具有广泛的应用价值。传统图像分类技术需要消耗大量时间来进行人工特征的提取,算法的效率低下。随着计算机计算能力的提升,GPU加速技术的发展,深度卷积神经网络在图像分类问题上取得了质的飞跃。但由于卷积神经网络深度和复杂度的不断提高,需要大量的计算成本和存储需求,导致卷积神经网络在处理图像问题上功耗往往比较高,阻碍了卷积神经网络在实际应用上的发展。虽然已有许多研究通过改进网络优化算法,提高了参数的寻优能力,但也无法在不丢失大量精度的前提下降低网络参数的复杂度。如何做到分类准确率高、低功耗且适用于硬件的人工神经网络,是目前图像分类所要解决的问题。
被称为第三代神经网络的脉冲神经网络是目前最具有生物解释性的人工神经网络,是类脑智能领域的核心组成部分。生物学研究表明,生物神经元实际上是以一种电脉冲的形式来进行信息交流的,生物能够快速的对外界刺激做出反应是因为生物神经网络的信息传递依赖于具体的脉冲时间。基于此,Maass提出了基于脉冲神经元的新型神经网络,即脉冲神经网络。从理论上来说,相比于传统神经网络,脉冲神经网络更加强大。现有的利用脉冲神经网络处理图像分类问题中,仅使用一层脉冲神经网络应用于图像,很难模拟大脑特性,很难得到更好的分类效果。
发明内容
本发明的目的是提供一种基于注意力机制的脉冲卷积神经网络的图像分类方法,解决了现有技术中存在的图片分类效果不好的问题。
本发明所采用的技术方案是,
一种基于注意力机制的脉冲卷积神经网络的图像分类方法,具体的步骤为:
步骤1,下载数据集;
步骤2,对数据集进行预处理,得到预处理数据集;
步骤3,建立脉冲卷积神经网络模型,所述脉冲卷积神经网络模型的拓扑结构为依次连接的输入层、高斯差分时序编码层、第一脉冲卷积注意力层、第一脉冲池化层、第二脉冲卷积注意力层、第二脉冲池化层、分类层;所述脉冲卷积神经网络模型采用漏积分点火神经元模型;
步骤4,采用所述脉冲卷积神经网络模型对预处理数据集进行训练,得到训练好的脉冲卷积神经网络模型;
步骤5,输入待分类的图片,采用训练好的脉冲卷积神经网络模型对待分类进行分类,得到分类结果。
本发明的特点还在于,
所述漏积分点火神经元模型中膜电位Vm(t)的变化过程由一个一阶微分方程描述,如公式(1)所示:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安工程大学,未经西安工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010517660.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于视觉的轨道道岔识别方法
- 下一篇:一种垃圾压缩仓的卷帘门系统