[发明专利]图像分类方法、装置、电子设备及存储介质在审
申请号: | 202010275340.0 | 申请日: | 2020-04-09 |
公开(公告)号: | CN111539460A | 公开(公告)日: | 2020-08-14 |
发明(设计)人: | 徐健 | 申请(专利权)人: | 咪咕文化科技有限公司;中国移动通信集团有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王宇杨 |
地址: | 100032*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 图像 分类 方法 装置 电子设备 存储 介质 | ||
本发明实施例提供一种图像分类方法、装置、电子设备及存储介质。方法包括:确定待分类的图像;将待分类的图像输入图像分类模型,得到图像分类模型输出的图像分类结果;其中,图像分类模型是基于样本图像数据与样本类别标签,通过对卷积神经网络模型进行训练得到的;图像分类模型在训练时采用预设的反向传播方法,预设的反向传播方法对卷积神经网络模型中的预设层所输出的梯度集合进行稀疏处理。本发明实施例提供的图像分类方法、装置、电子设备及存储介质对卷积神经网络在反向传播过程中所涉及的梯度进行稀疏化,有效降低了计算量,由于稀疏过程本身不涉及排序,复杂度非常低,对资源的占用几乎可以忽略,因此有效提高了图像分类模型的训练效率。
技术领域
本发明涉及人工智能技术领域,尤其涉及一种图像分类方法、装置、电子设备及存储介质。
背景技术
图像分类是要为图像打上类别标签。图像分类是计算机视觉领域的核心问题之一。目前,图像分类方法总体上分为5类:KNN(k-Nearest Neighbor,K最近邻分类)、SVM(Support Vector Machine,支持向量机)、BP神经网络、CNN(Convolutional NeuralNetworks,卷积神经网络)和迁移学习。
由于卷积神经网络的结构比传统神经网络更加复杂,因此采用卷积神经网络进行图像分类时,面临着资源消耗量大的问题,特别是在利用卷积神经网络训练图像分类模型的阶段。
在现有技术中,对于利用卷积神经网络训练图像分类模型的过程具有相应的优化方法,主要包括以下两类:
(1)剪枝:即在训练时删除对训练结果无实际影响的参数,压缩参数规模,以减小计算量。根据调整的参数对象的不同,对卷积神经网络进行剪枝压缩可以进一步细分为:非结构化剪枝、结构化剪枝、梯度剪枝等。
(2)量化:一般而言,卷积神经网络的参数都是用的32bit长度的浮点型数表示,实际上不需要保留那么高的精度,可以通过量化,比如用0~255表示原来32个bit所表示的精度,通过牺牲精度来降低每一个权值所需要占用的空间。
其中的梯度剪枝法一般首先需要对梯度参数做排序操作,然后从排序结果中舍去部分梯度参数。这样做一方面改变了梯度参数的尺寸,另一方面在梯度剪枝实现过程中的排序操作依然会对硬件资源、时间资源造成较大的消耗。
发明内容
本发明实施例提供一种图像分类方法、装置、电子设备及存储介质,用以解决现有技术中的方法对硬件资源和时间资源造成较大消耗的缺陷。
本发明第一方面实施例提供一种图像分类方法,包括:
确定待分类的图像;
将所述待分类的图像输入图像分类模型,得到所述图像分类模型输出的图像分类结果;其中,
所述图像分类模型是基于样本图像数据与样本类别标签,通过对卷积神经网络模型进行训练得到的;
所述图像分类模型在训练时采用预设的反向传播方法,所述预设的反向传播方法对所述卷积神经网络模型中的预设层所输出的梯度集合进行稀疏处理。
上述技术方案中,所述预设的反向传播方法对所述卷积神经网络模型中的预设层所输出的梯度集合进行稀疏处理包括:
当所述卷积神经网络模型为包含批标准化层的卷积神经网络模型时,对所述卷积神经网络模型中的批标准化层所输出的梯度集合进行稀疏处理。
上述技术方案中,所述预设的反向传播方法对所述卷积神经网络模型中的预设层所输出的梯度集合进行稀疏处理包括:
当所述卷积神经网络模型为未包含批标准化层的卷积神经网络模型时,对所述卷积神经网络模型中的ReLU激活层在反向传播方向上的前一相邻层所输出的梯度集合进行稀疏处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于咪咕文化科技有限公司;中国移动通信集团有限公司,未经咪咕文化科技有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010275340.0/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序