[发明专利]基于信息导向注意力网络的图像识别方法、系统及装置有效
申请号: | 202010683490.5 | 申请日: | 2020-07-15 |
公开(公告)号: | CN111881957B | 公开(公告)日: | 2022-09-23 |
发明(设计)人: | 谭铁牛;王威;陈文弢;司晨阳;崔萌萌;廖志军 | 申请(专利权)人: | 中国科学院自动化研究所;国网江西省电力有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/776;G06N3/04 |
代理公司: | 北京市恒有知识产权代理事务所(普通合伙) 11576 | 代理人: | 郭文浩;尹文会 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 信息 导向 注意力 网络 图像 识别 方法 系统 装置 | ||
本发明属于领域,具体涉及了一种基于信息导向注意力网络的图像识别方法,旨在解决的问题。本发明包括:获取输入图像,通过信息导向的注意力网络计算输入图像的特征向量,计算特征向量和信息导向的注意力网络中的原型表征之间的距离,选取特征向量距离最近的类别得到图像的分类结果。本发明解决了现有的图像识别技术中训练神经网络严重依赖数据规模的缺陷,通过将标注数据和未标注数据组织在一起并对他们之间的关系进行建模,可以抽取更具代表性的特征,解决了现有图像识别技术所用人工神经网络需要大量有标注的训练数据才能满足使用性能需求的缺陷。
技术领域
本发明属于计算机视觉和图像识别领域,具体涉及了一种基于信息导向注意力网络的图像识别方法、系统及装置。
背景技术
在大数据的推动下,深度学习技术在计算机视觉、自然语言处理等领域都有了突飞猛进的发展,然而,在自动驾驶等较难获取大量标注数据的领域,严重依赖数据规模的特点阻碍了深度学习在低数据任务上的应用。众所周知,人类是可以通过简单的举例说明快速学习新概念的,受这一事实的启发,现在的研究者们更多的关注小样本学习技术的发展。
我们提出了基于半监督学习的技术方案,可以充分利用未标注数据来进行小样本学习,通过图结构将标注数据和未标注数据组织在一起并对他们之间的关系进行建模,形成了信息导向注意力网络(Message-guided Attention Network,MAN)。基于学习到的关系,可以抽取更具代表性的特征,并借助于注意力机制促进图节点之间的信息传输,最后,通过计算预测对象和关系网络信息表征之间的欧氏距离进行分类。在miniImageNet和tieredImageNet数据集上的实验结果表明,MAN网络性能超过其他基于半监督学习的小样本学习方法。
发明内容
为了解决现有技术中的上述问题,即现有的图像识别技术中训练神经网络严重依赖数据规模的缺陷的问题,本发明提供了一种基于信息导向注意力网络的图像识别方法,所述图像识别方法包括:
步骤S10,获取输入图像;
步骤S20,通过预训练好的信息导向注意力网络,计算所述输入图像的第一特征向量;
步骤S30,计算所述第一特征向量和预训练好的信息导向注意力网络中第k类别的第一原型表征之间的距离d,当所述距离d取最小值时的第一原型表征为第k类别的第一原型表征时,所述输入图像归属于第k类别;
其中,所述信息导向注意力网络通过半监督小样本学习方式训练。
进一步地,所述信息导向注意力网络,其构建和训练方法为:
步骤B10,获取训练图像集,所述训练图像集包括有标注数据集S、无标注数据集R和查询集Q;
步骤B20,基于所述有标注数据集S和无标注数据集R,计算第二原型表征并构建原型网络;
步骤B30,基于所述查询集Q,计算与所述第二原型表征对应的第二特征向量;
步骤B40,计算所述第二特征向量在对应的第二原型表征的概率分布;
步骤B50,通过随机梯度下降法反复迭代调整学习参数fΦ使全局损失函数达到最小值,得到预训练好的信息导向注意力网络。
进一步地,步骤B20包括:
步骤B201,基于所述有标注数据集S和无标注数据集R,通过第一卷积神经网络CNN1获取第三特征向量v:{vi,vj……};
步骤B202,基于所述第三特征向量,构建第一关系矩阵W:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所;国网江西省电力有限公司,未经中国科学院自动化研究所;国网江西省电力有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010683490.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种余热发电系统
- 下一篇:一种抗震桥梁桥墩结构
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置