[发明专利]基于数据流的卷积神经网络权重梯度优化方法有效
申请号: | 202011532343.4 | 申请日: | 2020-12-22 |
公开(公告)号: | CN112633498B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 刘强;孟浩 | 申请(专利权)人: | 天津大学 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/0464 |
代理公司: | 天津市北洋有限责任专利代理事务所 12201 | 代理人: | 李素兰 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于数据流的卷积神经网络权重梯度优化方法,为卷积神经网络权重梯度优化提供一种可配置的数据流架构设计,使其可以支持权重梯度计算中的不同尺寸的卷积运算,实现并行度是串行输入的K×K(卷积核大小)倍,提升整个卷积神经网络训练的性能,解决了权重梯度计算中存在的不同尺寸卷积运算难以实现的问题。与现有技术相比,本发明1)加速效果明显:对于权重梯度计算来说,其并行度较原有的串行方案提升了K×K的并行度,显著地降低数据输入的传输时间,从而达到了加速整个网络训练的目的,并且较通用矩阵乘的方案可以减少1‑1/(K×K)%的输入存储;2)并且同时满足适用性和通用性。 | ||
搜索关键词: | 基于 数据流 卷积 神经网络 权重 梯度 优化 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011532343.4/,转载请声明来源钻瓜专利网。
- 上一篇:任意偏置电流输出的直流电流传感器电路
- 下一篇:一种核心板布局方法