[发明专利]一种基于通道剪枝的迁移学习加速方法在审
申请号: | 201910758097.5 | 申请日: | 2019-08-16 |
公开(公告)号: | CN110598848A | 公开(公告)日: | 2019-12-20 |
发明(设计)人: | 陈益强;于超辉;王晋东 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 11280 北京泛华伟业知识产权代理有限公司 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于通道剪枝的用于加速迁移学习的方法,所述方法包括下述步骤:步骤1:建立基线模型;步骤2:对源域和目标域之间的可迁移通道进行评估,获取每个通道的重要度;步骤3:进行通道剪枝;步骤4:微调训练,使经过剪枝的模型收敛;步骤5:重复步骤2至4,直到经过剪枝的模型在目标域上的准确率和模型所需要的计算量满足预定要求。本发明的基于通道剪枝的迁移学习加速方法,将迁移学习的过程和模型剪枝过程融合为一个整体框架,在迁移的过程中同时考虑到目标任务上的性能,而在剪枝的过程中也同时考虑到移除那些对原任务和目标任务都不重要的参数。 | ||
搜索关键词: | 剪枝 迁移 目标域 过程融合 基线模型 预定要求 整体框架 计算量 重要度 准确率 移除 源域 微调 学习 收敛 重复 评估 | ||
【主权项】:
1.一种基于通道剪枝的迁移学习加速方法,其特征在于,所述方法包括下述步骤:/n步骤1:基于源域和目标域的图像数据建立基线模型;/n步骤2:在所述基线模型中对源域和目标域之间的可迁移通道进行评估,获取每个通道的重要度;/n步骤3:根据获得的每个通道的重要度进行通道剪枝以及筛选;/n步骤4:对经过剪枝筛选后的基线模型进行调整训练,使其趋于收敛;/n步骤5:重复步骤2至4,直到经过剪枝的基线模型满足预定要求。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910758097.5/,转载请声明来源钻瓜专利网。