[发明专利]一种神经网络压缩方法及装置有效
申请号: | 201910493475.1 | 申请日: | 2019-06-06 |
公开(公告)号: | CN110263917B | 公开(公告)日: | 2023-09-22 |
发明(设计)人: | 姜迪 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/08;G06F18/214 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 黄志华 |
地址: | 518027 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种神经网络压缩方法及装置,其中方法为:将训练数据集中的每个样本值输入至预设的神经网络,对所述神经网络进行深度学习训练,通过所述神经网络输出的每个样本值的训练值,对所述神经网络中预设的至少一个参数进行更新;获取所述深度学习训练过程中,所述至少一个参数中每个参数的至少一个更新值;针对所述至少一个参数中的任一参数,对该参数的至少一个更新值进行变分后验推断,获取该参数的变分后验分布的均值,并用该均值替换该参数;对所述神经网络的所述至少一个进行聚类、裁剪、量化及霍夫曼编码,获得压缩后的神经网络;上述方法可应用于金融科技(Fintech)。 | ||
搜索关键词: | 一种 神经网络 压缩 方法 装置 | ||
【主权项】:
1.一种神经网络压缩方法,其特征在于,包括:将训练数据集中的每个样本值输入至预设的神经网络,对所述神经网络进行深度学习训练,通过所述神经网络输出的每个样本值的训练值,对所述神经网络中预设的至少一个参数进行更新;获取所述深度学习训练过程中,所述至少一个参数中每个参数的至少一个更新值;针对所述至少一个参数中的任一参数,对该参数的至少一个更新值进行变分后验推断,获取该参数的变分后验分布的均值,并用该均值替换该参数;对所述神经网络的所述至少一个参数进行聚类、裁剪、量化及霍夫曼编码,获得压缩后的神经网络。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910493475.1/,转载请声明来源钻瓜专利网。