[发明专利]一种基于权值分配资源的神经网络训练方法和装置有效
申请号: | 201810069252.8 | 申请日: | 2018-01-24 |
公开(公告)号: | CN108364063B | 公开(公告)日: | 2019-09-27 |
发明(设计)人: | 廖裕民;吴占敏 | 申请(专利权)人: | 福州瑞芯微电子股份有限公司 |
主分类号: | G06N3/06 | 分类号: | G06N3/06 |
代理公司: | 福州市景弘专利代理事务所(普通合伙) 35219 | 代理人: | 林祥翔;徐剑兵 |
地址: | 350003 福建省*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于权值分配资源的神经网络训练方法和装置,所述装置包括可重构网络矩阵单元、参数配置单元、误差计算单元、反向回写单元、配置信息存储单元、参数元素存储单元。所述方法通过对权值较高的神经网络结构提供精度较高的乘法电路资源、对权值较低的神经网络结构提供精度较低的乘法器资源,使得在组建同一神经网络结构的各层神经网络子电路时,乘法电路的资源分配更加合理。采用上述方法可以在不影响神经网络深度学习算法效果的同时,有效地降低电路规模和电路功耗,进而提高电子设备的续航能力。 | ||
搜索关键词: | 神经网络结构 神经网络训练 方法和装置 乘法电路 权值分配 配置信息存储单元 参数配置单元 误差计算单元 可重构网络 参数元素 存储单元 电路功耗 电路规模 电子设备 矩阵单元 神经网络 续航能力 学习算法 影响神经 资源分配 乘法器 有效地 子电路 回写 组建 网络 | ||
【主权项】:
1.一种基于权值分配资源的神经网络训练装置,其特征在于,所述装置包括可重构网络矩阵单元、参数配置单元、误差计算单元、反向回写单元、配置信息存储单元、参数元素存储单元;所述参数配置单元用于获取配置信息存储单元中的参数配置信息,并根据参数配置信息从参数元素存储单元中获取相应数量的参数元素,并将参数配置信息与参数元素传输至可重构网络矩阵单元;所述可重构网络矩阵单元用于根据参数配置信息和参数元素构建神经网络电路,所述参数配置信息包括连接权值信息,所述神经网络电路包括多层神经网络子电路,每一神经网络子电路至少对应一连接权值信息;所述参数元素包括不同精度的乘加器,各层神经网络子电路所采用的乘加器精度与该层神经网络子电路的连接权值信息大小成正比;所述神经网络电路用于接收待测数据,并进行神经网络识别计算,所述误差计算单元用于判断本次计算结果与真实信息的匹配度是否大于预设匹配度,若是则判定为训练完成,记录此时各层神经网络子电路对应的连接权值信息,所述反向回写单元用于将包含有更新后的连接权值信息的参数配置信息写入配置信息存储单元中;否则神经网络电路用于根据本次训练结果的匹配度与上一次训练结果的匹配度的差异,调整各层神经网络子电路的连接权重信息,以及根据调整后的连接权重信息确认各层神经网络子电路所采用的乘加器精度,并再次进行神经网络计算,直至训练完成。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州瑞芯微电子股份有限公司,未经福州瑞芯微电子股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810069252.8/,转载请声明来源钻瓜专利网。