[发明专利]一种基于类别表示指导特征选择的零次学习分类算法在审
申请号: | 201910330421.3 | 申请日: | 2019-04-23 |
公开(公告)号: | CN110210616A | 公开(公告)日: | 2019-09-06 |
发明(设计)人: | 廖昌粟;苏荔;黄庆明 | 申请(专利权)人: | 中国科学院大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100049 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 特征选择 分类算法 视觉特征 反映射 样本 学习 语义 分类效果 神经网络 损失函数 网络训练 训练模型 训练样本 样本表示 语义空间 编码器 映射 分类 | ||
本发明涉及一种基于类别表示指导特征选择的零次学习分类算法,本发明首先利用神经网络自编码器的结构,同时训练样本视觉特征到类别语义的映射,及其反映射,在类别语义空间中,将样本与类别作损失。定义一个额外的特征选择层,将每次用于网络训练的批数据所对应的类别表示,反映射到样本视觉特征空间中,与样本表示作差,并求所有差的均值,再将结果通过sigmoid函数,得到一个特征的重要性分布表示,将其与特征选择层的值作损失。利用两个损失函数,训练模型。本发明提出的特征选择层及其训练方法,可以选择出有利于零次学习分类的特征,从而得到更好的零次学习分类效果。
技术领域
本发明涉及人工智能的技术领域,特别是涉及一种基于类别表示指导特征选择的零次学习分类算法。
背景技术
众所周知,随着深度学习在多种机器学习任务上的成功应用,不断地吸引了越来越多的研究者利用深度学习,去解决更多人类生活中的问题,然而,基于深度学习的算法模型,其优秀的表现往往依赖于海量的标注数据,在很多数据有限的应用(例如危险事件检测)中,难以达到可以应用的水平,因此,需要零次学习方法,通过可迁移的信息,仅使用训练集类别的数据,对测试集类别对象进行识别;现有的基于类别表示指导特征选择的零次学习分类算法大多使用深度神经网络对样本进行特征提取,直接建立样本和类别表示之间的映射,而对于样本的特征没有进行目的性地选择,从而使得最终的分类效果不佳。
发明内容
为解决上述技术问题,本发明提供一种能够进行特征选择的算法,从而能为零次学习的样本分类,提供更好的样本特征,实现更好的零次学习分类效果的一种基于类别表示指导特征选择的零次学习分类算法。
本发明的一种基于类别表示指导特征选择的零次学习分类算法,主要包括以下步骤:
步骤a:
利用深度神经网络对样本数据进行特征提取,得到训练数据和测试数据
步骤b:
训练一个基础的自编码器形式的神经网络模型,建立样本与对应类别之间的联系,实现分类;
步骤c:
在步骤b的模型中,将训练样本映射入语义嵌入空间中前,点乘上一个特征选择层mask,进行特征选择,再映射入语义嵌入空间中,与训练类别语义表示所组成的矩阵Ss作损失;
步骤d:
将训练数据对应的类别语义表示利用步骤b中训练好的模型,反映射到样本特征空间中,并与训练数据进行操作,得到目标masko,制作mask损失,指导步骤c中的特征选择层mask的生成。结合所有损失,对模型进行训练;
步骤e:
测试时,将测试样本通过mask层并映射到类别语义空间中,得到对应的类别。
本发明的一种基于类别表示指导特征选择的零次学习分类算法,在步骤c中,设特征选择层mask的维度和一个样本x的维度一致,为R1×l,设每次输入的训练样本的维度为Rb×l,将mask复制b份,组成新的张量maskx∈Rb×l,将其与作点乘,得到特征选择之后的样本将其利用步骤b中学习的模型,映射入语义嵌入空间中,与训练类别语义表示所组成的矩阵Ss作损失。
本发明的一种基于类别表示指导特征选择的零次学习分类算法,在步骤d中,对于每次输入到模型中进行训练的数据将其对应的类别语义表示利用步骤b中学习的模型,反映射到样本特征空间中,与作差,并在0维方向上取均值,将结果通过sigmoid函数,得到一个特征的重要性分布表示masko,之后,将其与特征选择层mask作损失,结合步骤c中的损失,对模型进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院大学,未经中国科学院大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910330421.3/2.html,转载请声明来源钻瓜专利网。