[发明专利]一种基于对比学习的自蒸馏实现方法在审
申请号: | 202211187755.8 | 申请日: | 2022-09-28 |
公开(公告)号: | CN115759225A | 公开(公告)日: | 2023-03-07 |
发明(设计)人: | 周王成;刘宁钟;吴磊;王淑君 | 申请(专利权)人: | 江苏中科梦兰电子科技有限公司;南京航空航天大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 南京锐恒专利代理事务所(普通合伙) 32506 | 代理人: | 陈思 |
地址: | 215500 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于对比学习的自蒸馏实现方法,该方法包括:首先下载CIFAR数据集,并对其进行划分和增广;然后在主干网络结构的基础上,预训练的主干网络作为教师网络,对同一数据进行增广后充分利用教师网络的知识,蒸馏重新训练新主干网络,构造出新的蒸馏框架;将划分后的数据集送入神经网络进行训练,直至网络收敛,获得权重文件;最后利用训练好的神经网络和权重文件来检测测试图像,并输出分类结果。本发明能够很好地解决了目前蒸馏框架中教师网络预训练耗时和小模型精度不达标的问题,提高了蒸馏下模型的准确率。 | ||
搜索关键词: | 一种 基于 对比 学习 蒸馏 实现 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏中科梦兰电子科技有限公司;南京航空航天大学,未经江苏中科梦兰电子科技有限公司;南京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211187755.8/,转载请声明来源钻瓜专利网。
- 上一篇:数据传输方法、终端设备和存储介质
- 下一篇:一种校园卡批量自动开户方法及系统