[发明专利]融合通道与关系特征学习的知识蒸馏方法、装置及设备在审
| 申请号： | 202110713812.0 | 申请日： | 2021-06-25 |
| 公开（公告）号： | CN113344206A | 公开（公告）日： | 2021-09-03 |
| 发明（设计）人： | 苟建平;熊祥硕;陈潇君;夏书银;欧卫华;柯佳 | 申请（专利权）人： | 江苏大学 |
| 主分类号： | G06N5/02 | 分类号： | G06N5/02;G06N3/04;G06N3/08 |
| 代理公司： | 成都弘毅天承知识产权代理有限公司 51230 | 代理人： | 谢建;黄海斌 |
| 地址： | 212013 江*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及知识蒸馏技术领域，公开了一种融合通道与关系特征学习的知识蒸馏方法、装置及设备，所述方法包括：构建未训练的学生网络和完成预训练的教师网络；将训练数据分别输入学生网络和教师网络获得学生网络的输出结果、教师网络的输出结果，训练数据还包括对应的真实标签数据；基于学生网络和教师网络的通道数据、学生网络的输出结果、教师网络的输出结果、学习网络与教师网络迁移样本间关系确定蒸馏损失函数；基于蒸馏损失函数对学生网络进行迭代训练。本发明不仅能够有效的压缩学生网络模型，也能让学生网络的性能进一步提升，甚至超越大型教师网络的性能。 | ||
| 搜索关键词： | 融合 通道 关系 特征 学习 知识 蒸馏 方法 装置 设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于江苏大学，未经江苏大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110713812.0/，转载请声明来源钻瓜专利网。
