[发明专利]基于固定基正则化的神经网络参数稀疏化方法有效
申请号: | 201911028209.8 | 申请日: | 2019-10-28 |
公开(公告)号: | CN112734025B | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 杨帆;苏仰锋;曾璇;文玮婧 | 申请(专利权)人: | 复旦大学 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/0464 |
代理公司: | 上海元一成知识产权代理事务所(普通合伙) 31268 | 代理人: | 吴桂琴 |
地址: | 200433 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于人工智能领域,涉及一种基于固定基正则化的神经网络参数稀疏化方法;该方法通过将卷积神经网络中大量卷积核和权重参数分解为多组低秩的固定基的表达形式,并对固定基选择折叠处理,调节低秩参数,在网络模型预训练后,结合固定基部分参数正则化和部分剪枝算法,后期少数步骤进行稀疏化训练。所述方法可用于图片识别分类的应用,通过固定基表示大量网络参数,便于硬件平台的实现的同时降低了计算的复杂度;与现在已经提出的神经网络稀疏化算法相比,所述方法可以在达到同一精度或者更高精度的同时,实现更高的网络稀疏度,大大的减少了参数存储,减少网络训练的时间并提升卷积神经网络在图像分类领域的应用效率。 | ||
搜索关键词: | 基于 固定 正则 神经网络 参数 稀疏 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于复旦大学,未经复旦大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911028209.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种音频播放方法和装置
- 下一篇:一种包含C反应蛋白抗原结合结构域的结合蛋白