[发明专利]一种循环神经网络的加速计算方法、系统及相关装置在审
申请号: | 202010476888.1 | 申请日: | 2020-05-29 |
公开(公告)号: | CN111723906A | 公开(公告)日: | 2020-09-29 |
发明(设计)人: | 董刚;赵雅倩;李仁刚;杨宏斌;刘海威;蒋东东 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 高勇 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 循环 神经网络 加速 计算方法 系统 相关 装置 | ||
1.一种循环神经网络的加速计算方法,其特征在于,包括:
获取所述循环神经网络的参数矩阵乘式;
对所述参数矩阵乘式中的乘数和被乘数进行分割,得到二维矩阵;
将所述二维矩阵按照预设顺序输入至三维脉动阵列;
根据所述三维脉动阵列确定所述参数矩阵乘式的输出结果。
2.根据权利要求1所述的加速计算方法,其特征在于,对所述参数矩阵乘式中的乘数和被乘数进行分割,得到二维矩阵包括:
利用预设计算单元分别对所述参数矩阵乘式中的乘数和被乘数分割,得到二维矩阵。
3.根据权利要求2所述的加速计算方法,其特征在于,利用预设计算单元分别对所述参数矩阵乘式中的乘数和被乘数分割,得到二维矩阵包括:
利用预设计算单元对所述参数矩阵乘式中被乘数长度为M的行向量分割成的二维矩阵;所述被乘数为N×M的矩阵;
利用预设计算单元对所述参数矩阵乘式中乘数长度为M的列向量分割成的二维矩阵;所述乘数为M×N的矩阵;
其中,预设计算单元k为所述三维脉动阵列中每行或每列的计算单元数据。
4.根据权利要求1所述的加速计算方法,其特征在于,根据所述三维脉动阵列确定所述参数矩阵乘式的输出结果包括:
调用FPGA的寄存器转换级电路运行所述三维脉动阵列,计算得到所述参数矩阵乘式的输出结果。
5.根据权利要求3所述的加速计算方法,其特征在于,所述三维脉动阵列的计算单元总数为k*k*N。
6.一种循环神经网络的加速计算系统,其特征在于,包括:
获取模块,用于获取所述循环神经网络的参数矩阵乘式;
矩阵向量乘模块,用于对所述参数矩阵乘式中的乘数和被乘数进行分割,得到二维矩阵;将所述二维矩阵按照预设顺序输入至三维脉动阵列;
计算模块,用于根据所述三维脉动阵列确定所述参数矩阵乘式的输出结果。
7.根据权利要求6所述的加速计算系统,其特征在于,所述矩阵向量乘模块包括:
分割单元,用于利用预设计算单元分别对所述参数矩阵乘式中的乘数和被乘数分割,得到二维矩阵。
8.根据权利要求6所述的加速计算系统,其特征在于,所述计算模块为用于调用FPGA的寄存器转换级电路运行所述三维脉动阵列,计算得到所述参数矩阵乘式的输出结果的模块。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-5任一项所述的方法的步骤。
10.一种终端,其特征在于,包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如权利要求1-5任一项所述的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010476888.1/1.html,转载请声明来源钻瓜专利网。