[发明专利]基于群卷积特征拓扑空间的深度学习网络及其训练方法有效
申请号: | 202010104191.1 | 申请日: | 2020-02-20 |
公开(公告)号: | CN111353583B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 钱夔;田磊;刘义亭 | 申请(专利权)人: | 南京工程学院 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/082 |
代理公司: | 南京钟山专利代理有限公司 32252 | 代理人: | 陈月菊 |
地址: | 211167 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 卷积 特征 拓扑 空间 深度 学习 网络 及其 训练 方法 | ||
本发明公开了一种基于群卷积特征拓扑空间的深度学习网络,包括卷积特征提取层、群卷积拓扑层和深度特征识别层;卷积特征提取层用于提取样本数据的多通道CNN卷积特征,将提取结果作为群卷积拓扑层的输入;群卷积拓扑层用于结合提取的多通道CNN卷积特征,以通道索引按群分类形成群卷积,构造图拓扑空间,将每个群卷积特征看成图拓扑空间节点,并自动/手动构建图拓扑空间节点连接规则,生成拉普拉斯矩阵L,将拉普拉斯矩阵L作为深度特征识别层的输入;深度特征识别层用于根据输入的拉普拉斯矩阵L,输出样本数据对应的群卷积特征拓扑空间图特征。本发明能够赋予不同通道下CNN特征的图拓扑空间规则,从而加快传统CNN训练与收敛速度。
技术领域
本发明涉及人工智能技术领域,具体而言涉及一种基于群卷积特征拓扑空间的深度学习网络及其训练方法。
背景技术
卷积神经网络(Convolution Neural Network,CNN)是深度学习的代表算法之一,包含卷积计算且具有深度结构的神经网络。如今大部分图像识别方法利用CNN自动提取图像特征,从而实现从经验驱动的人造特征范式到数据驱动的表示学习范式转变。然而CNN也有着以下缺点:(1)训练需要大量样本,且训练速度很慢;(2)卷积核仅提取局部特征,最终用于识别的特征是局部特征的聚合,某种程度缺乏全局的空间特征。
数据实际上可以被看作是图,将数据表示成图可以提供很大的灵活性,并能在处理问题的时候提供截然不同的视角。用图拓扑对数据关系进行建模,图节点表示数据实体,图边表示实体间的关系,众多节点和边构成的图即可对数据进行完善清晰的描述。然而传统的图分析方法难以实现与计算机视觉领域相当的应用水平和模型性能,而现有的机器学习算法又不能直接应用于图数据中。图神经网络(Graph Neural Network,GNN)利用神经网络强大的学习能力,通过对图网络中拓扑知识学习记忆,从而提取图结构中丰富的潜在价值。
Garcia V等人提出利用GNN方法用于图像少样本识别(见:Garcia V,BrunaJ.Few-shot learning with graph neural networks[C]//ICLR,2018,https://arxiv.org/pdf/1711.04043.pdf),但是其GNN输入为不同类别图像的深度特征,图节点是针对每一幅图像。Kim J提出基于Edge-Labeling的GNN结构,重点考虑类内的相似性和类间的不相似性(见:Kim J,Kim T,KimS,et al.Edge-labeling Graph Neural Network for Few-shotLearning[C]//CVPR,2019,http://openaccess.thecvf.com/content_CVPR_2019/papers/Kim_Edge-Labeling_Graph_Neural_Net work_for_Few-Shot_Learning_CVPR_2019_paper.pdf),但仍然是以经过卷积神经网络得到对应的特征向量作为初始化图节点,不同尺度的深度特征间关系没有考虑。
由于图数据结构各不相同,现有的方法也无法处理所有的图数据。因此,设计特定的深度学习模型来处理这些不同类型的图是重要工作内容。而当前围绕多通道CNN卷积特征的拓扑空间关系,如何挖掘图拓扑背后的价值,从而实现快速训练与收敛,还未见及。
发明内容
本发明目的在于提供一种基于群卷积特征拓扑空间的深度学习网络结构与训练方法,提取多通道CNN卷积特征后,以通道索引按群分类形成群卷积,再构造图拓扑空间,每个群卷积特征看成图拓扑空间节点,并自动/手动构建图拓扑空间节点连接规则,生成拉普拉斯矩阵L,并送入GNN隐层网络,输出群卷积特征拓扑空间图特征,基于该图特征最终完成特征识别;其中,训练时在卷积特征提取层选择性利用迁移学习,提升模型性能。本发明能够赋予不同通道下CNN特征的图拓扑空间规则,从而加快传统CNN训练与收敛速度,也为CNN与GNN的融合提供一种新的思路与方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京工程学院,未经南京工程学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010104191.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种适用于mqtt的安全防护方法及系统
- 下一篇:一种节能环保型铅基合金