[发明专利]基于无监督蒸馏网络的学生网络获取方法、图像分类模型获取方法、图像分类方法在审
申请号: | 202211439778.3 | 申请日: | 2022-11-17 |
公开(公告)号: | CN115861765A | 公开(公告)日: | 2023-03-28 |
发明(设计)人: | 刘环宇;吴然;李君宝;杨忠琳 | 申请(专利权)人: | 哈尔滨工业大学 |
主分类号: | G06V10/82 | 分类号: | G06V10/82;G06V10/774;G06V10/764;G06N3/045;G06N3/0499;G06N3/088;G06N3/096 |
代理公司: | 哈尔滨市阳光惠远知识产权代理有限公司 23211 | 代理人: | 张宏威 |
地址: | 150001 黑龙*** | 国省代码: | 黑龙江;23 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 监督 蒸馏 网络 学生 获取 方法 图像 分类 模型 | ||
1.基于无监督蒸馏网络的学生网络获取方法,应用于图像分类,其特征在于,所述方法包括:
步骤1:采集图像作为数据集;
步骤2:根据所述数据集,得到两个增广;
步骤3:所述两个增广分别通过教师网络和学生网络,得到教师网络输出的投影值和预测值,以及学生网络输出的投影值和预测值。
步骤4:根据教师网络输出的投影值和预测值以及学生网络输出的投影值和预测值,更新所述教师网络和学生网络;
步骤5:输出当前学生网络,作为结果。
2.根据权利要求1所述的基于无监督蒸馏网络的学生网络获取方法,其特征在于,所述教师网络输出的投影值和预测值,以及学生网络输出的投影值和预测值的获取方法具体为:根据MLP头获取。
3.根据权利要求2所述的基于无监督蒸馏网络的学生网络获取方法,其特征在于,所述的步骤3中,MLP头根据教师网络输出的投影值和预测值以及学生网络输出的投影值和预测值生成子项,通过所述子项求解预设的损失函数。
4.根据权利要求3所述的无监督蒸馏学生网络获取方法,其特征在于,所述MLP头包括学生网络的投影头和预测头以及教师网络的投影头和预测头,所述MLP头根据所述教师网络和学生网络生成分别对应两个所述增广的、教师网络的两个投影值和两个预测值,以及分别对应两个所述增广的、学生网络的两个投影值和两个预测值,四个投影值和四个预测值作为所述子项。
5.根据权利要求1所述的无监督蒸馏学生网络获取方法,其特征在于,所述步骤4中,更新所述教师网络和学生网络的具体方式为,根据教师网络输出的投影值和预测值,得到教师网络的自更新,根据教师网络输出的投影值和学生网络的预测值,得到蒸馏更新,根据教师网络输出的预测值和学生网络的投影值,得到对抗更新,根据所述自更新、蒸馏更新和对抗更新,更新所述教师网络和学生网络。
6.无监督蒸馏学生网络获取装置,其特征在于,所述装置包括:
模块1:用于采集图像作为数据集;
模块2:用于根据所述数据集,得到两个增广;
模块3:用于将所述两个增广分别通过教师网络和学生网络,得到教师网络输出的投影值和预测值,以及学生网络输出的投影值和预测值。
模块4:根据教师网络输出的投影值和预测值以及学生网络输出的投影值和预测值,更新所述教师网络和学生网络;
模块5:用于输出当前学生网络,作为结果。
7.基于无监督蒸馏网络的图像分类模型获取方法,应用于图像分类,其特征在于,所述方法包括:
步骤6:采集待分类图像;
步骤7:将所述图像通过权利要求1-5任意一项所述的基于无监督蒸馏网络的学生网络获取方法,得到更新后的学生网络;
步骤8:通过预设训练图像集,训练预设的分类网络;
步骤9:得到训练后的学生网络和分类网络,并输出作为结果。
8.基于无监督蒸馏网络的图像分类模型获取装置,其特征在于,所述装置包括:
模块6:用于采集图像;
模块7:用于将所述图像通过权利要求6所述的基于无监督蒸馏网络的学生网络获取方法,得到更新后的学生网络;
模块8:用于通过预设训练图像集,训练预设的分类网络;
模块9:用于得到训练后的学生网络和分类网络。
9.基于无监督蒸馏网络的图像分类方法,其特征在于,所述方法包括:
步骤10:采集待分类的图像;
步骤11:将所述待分类的图像通过权利要求7所述的基于无监督蒸馏网络的图像分类模型获取方法输出的结果进行分类。
10.基于无监督蒸馏网络的图像分类装置,其特征在于,所述装置包括:
模块10:用于采集待分类的图像;
模块11:用于将所述待分类的图像通过权利要求8所述的基于无监督蒸馏网络的图像分类模型获取装置输出的结果进行分类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学,未经哈尔滨工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211439778.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:贴膜设备以及贴膜设备的调节方法
- 下一篇:一种立轴风力发电机机房降温装置