[发明专利]面向小样本学习的变分自编码器网络模型和装置有效
申请号: | 201910621045.3 | 申请日: | 2019-07-10 |
公开(公告)号: | CN110427978B | 公开(公告)日: | 2022-01-11 |
发明(设计)人: | 崔鹏;周琳钧;杨士强 | 申请(专利权)人: | 清华大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 张润 |
地址: | 10008*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 样本 学习 编码器 网络 模型 装置 | ||
1.一种面向小样本学习的变分自编码器网络模型生成方法,其特征在于,包括以下步骤:
通过预设深度网络结构学习获取样本的高层表征,根据所述高层表征通过第一神经网络采样得到隐表示,并通过第二个神经网络复原,以重构所述高层表征,具体地,在小样本图像分类中通过残差卷积神经网络进行图像高层表征的提取,之后所述第一神经网络采用一个两层的神经元数目逐渐减小的全连接网络学习隐表示,所述第二神经网络采用一个两层的神经元数目逐渐增加的全连接网络复原高层表征;
根据分布参数生成每个类别分布,包括:学习分布参数,使得不同类别样本的隐表示的间隔满足预设条件;以及
通过定义损失函数为重构误差、分类误差和隐表示分布与先验分布误差之和,以优化整个网络参数及所述每个类别分布的参数,生成变分自编码器网络模型以提升小样本分类的准确率。
2.根据权利要求1所述的模型生成方法,其特征在于,所述生成变分自编码器网络模型,包括:
通过预设数量的样本描述每个新类分布的参数,以对每个测试样本提取对应的隐表示进行极大似然分类。
3.一种面向小样本学习的变分自编码器网络模型的装置,其特征在于,所述装置包括:
重构模块,用于通过预设深度网络结构学习获取样本的高层表征,根据所述高层表征通过第一神经网络采样得到隐表示,并通过第二个神经网络复原,以重构所述高层表征,具体地,在小样本图像分类中通过残差卷积神经网络进行图像高层表征的提取,之后所述第一神经网络采用一个两层的神经元数目逐渐减小的全连接网络学习隐表示,所述第二神经网络采用一个两层的神经元数目逐渐增加的全连接网络复原高层表征;
分类模块,用于根据分布参数生成每个类别分布,包括:学习分布参数,使得不同类别样本的隐表示的间隔满足预设条件;
优化模块,用于通过定义损失函数为重构误差、分类误差和隐表示分布与先验分布误差之和,以优化整个网络参数及所述每个类别分布的参数,生成变分自编码器网络模型以提升小样本分类的准确率。
4.根据权利要求3所述的装置,其特征在于,所述优化模块进一步用于通过预设数量的样本描述每个新类分布的参数,以对每个测试样本提取对应的隐表示进行极大似然分类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910621045.3/1.html,转载请声明来源钻瓜专利网。