[发明专利]一种基于对数极空间卷积对数据进行处理的方法有效
申请号: | 202110239690.6 | 申请日: | 2021-03-04 |
公开(公告)号: | CN113011561B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 苏冰;文继荣 | 申请(专利权)人: | 中国人民大学 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/08;G06F17/15 |
代理公司: | 北京纪凯知识产权代理有限公司 11245 | 代理人: | 冀志华 |
地址: | 100872 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 对数 空间 卷积 数据 进行 处理 方法 | ||
本发明涉及一种基于对数极空间卷积对数据进行处理的方法,其特征在于,包括以下步骤:1)构建基于对数极空间的卷积核;2)判断是否存在常规卷积神经网络,若不存在,则进入步骤3),否则,进入步骤4);3)以步骤1)中构建的基于对数极空间卷积核为基础构建卷积层,进而构建新的卷积神经网络,并将输入图像或特征图输入新的卷积神经网络进行数据处理得到输出特征图;4)利用步骤1)中构建的基于对数极空间的卷积核替换常规卷积网络中的卷积核,并将输入图像或特征图输入替换后的常规卷积网络中,通过对数极空间池化操作,用常规卷积实现对数极空间卷积,得到输出特征图。本发明可以应用于任何网络体系结构中以替代常规卷积。
技术领域
本发明属于机器学习技术领域,具体涉及一种基于对数极空间卷积对数据进行处理的方法。
背景技术
卷积神经网络在计算机视觉领域取得了巨大的成功。在卷积层中,每个隐藏节点仅连接到图像的某个局部区域,与全连接层相比,参数的数量大大减少,训练更容易。卷积核的大小决定了图像或特征图的局部加权范围,称为卷积核的局部感受野。
在许多计算机视觉任务中,例如图像分类和密集预测,通常需要更大的局部感受野来捕获长距离空间位置和大范围的上下文信息之间的依存关系。简单地增加卷积核的大小是不可行的,因为参数的数量会随着大小的增加而平方增加。增加局部感受野的常用技术包括用多层小卷积核替换单层大卷积核,添加池化层以及使用膨胀卷积。然而,使用多层小卷积核替换大卷积核的方式时,更深的层可能会导致梯度消失,从而使网络更难以训练;而使用添加池化层的方式时,池化过程通常会导致信息丢失;使用膨胀卷积的方式时,由于膨胀卷积是通过在内核的参数之间插入孔(零)来增加局部感受野,卷积核不是连续的,因为并不是局部感受野中的所有像素都参与了卷积计算,而且使用相同数量的参数,膨胀卷积的局部感受野越大,跳过的像素越多,这可能会丢失一些细节并导致信息不连续。
目前还有一些较为常用的高级卷积方式,其中,主动卷积通过引入带位置参数的卷积单元来学习卷积的形状;可变形卷积通过学习其他偏移量以增加采样位置,从而将局部感受野自适应地更改为多边形。对于主动卷积和可变形卷积,适配的LRF包含孔,并且变化强度不容易控制。位置和偏移量通过其他卷积层学习,从而增加了参数。
综上,常规卷积、膨胀卷积和这些高级卷积都使用规则平方核,在局部感受野中为每个选定的位置分配不同的权重。无论卷积核大小如何,都会平等对待所有选定位置,无论距中心的距离如何,参数的间隔或共享范围在不同位置之间都相同。
发明内容
针对上述问题,本发明的目的是提供一种基于对数极空间卷积对数据进行处理的方法,以克服现有卷积技术的不足,对卷积核施加特殊的空间结构,在不增加参数数量且不损失信息连续性的情况下增大卷积核的空间感受野,通过结构化的卷积核进行卷积操作,有效编码更大范围内的空间分布信息和上下文信息。
为实现上述目的,本发明采取以下技术方案:一种基于对数极空间卷积对数据进行处理的方法,其包括以下步骤:
1)构建基于对数极空间的卷积核;
2)判断是否存在常规卷积神经网络,若不存在,则进入步骤3),否则,进入步骤4);
3)以步骤1)中构建的基于对数极空间卷积核为基础构建卷积层,进而构建新的卷积神经网络,并将输入图像或特征图输入新的卷积神经网络进行数据处理得到输出特征图;
4)利用步骤1)中构建的基于对数极空间的卷积核替换常规卷积网络中的卷积核,并将输入图像或特征图输入替换后的常规卷积网络中,通过对数极空间池化操作,用常规卷积实现对数极空间卷积,得到输出特征图。
进一步,所述步骤1)中,构建基于对数极空间的卷积核时,包括以下步骤:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民大学,未经中国人民大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110239690.6/2.html,转载请声明来源钻瓜专利网。