[发明专利]一种神经网络模型辅助训练和参数压缩方法在审
申请号: | 202110302720.3 | 申请日: | 2021-03-22 |
公开(公告)号: | CN113011586A | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | 张通;甘文锐;陈俊龙 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 何淑珍;江裕强 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种神经网络模型辅助训练和参数压缩方法,包括以下步骤:1)、在需要被训练的神经网络模型中添加多个辅助训练模块,并将被训练的神经网络模型和辅助训练模块的输出串联起来得到输出;2)、扩展原样本标签,扩展后的N组标签与原来的标签一一对应;3)、将扩展后的标签N组标签分别设置不同的交叉熵权值,按照对应的权值,输入到交叉熵函数进行梯度反向传播;4)、选取其中的一个辅助训练模块取代被训练的神经网络模中对应的子模块,以实现模型的参数压缩。 | ||
搜索关键词: | 一种 神经网络 模型 辅助 训练 参数 压缩 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110302720.3/,转载请声明来源钻瓜专利网。