[发明专利]一种面向多变异体LSTM神经网络加速器及数据处理方法在审
申请号: | 201810244102.6 | 申请日: | 2018-03-23 |
公开(公告)号: | CN108376285A | 公开(公告)日: | 2018-08-07 |
发明(设计)人: | 韩银和;闵丰;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储单元 接收数据 数据执行 运算单元 输出 激活单元 神经网络 运算结果 乘法 变异体 加速器 向量 神经元 矩阵乘法单元 乘累加运算 激活操作 加法单元 权值数据 向量乘法 数据处理 累加 运算 平行 存储 网络 激活 | ||
1.一种面向多变异体LSTM的神经网络加速器,包括
存储单元,用于存储LSTM或其变异体网络的神经元数据和权值数据并输出;
矩阵乘法运算单元,用于从所述存储单元接收数据并针对所述接收的数据执行矩阵乘法运算并输出运算结果;
多功能运算单元,用于从所述矩阵乘法运算单元接收数据,并针对所述接收的数据执行与LSTM或其变异体网络对应的特定运算并输出运算结果;
激活单元,用于从所述多功能运算单元和/或所述存储单元接收数据,并针对所述接收的数据执行激活操作并输出激活结果;
向量平行乘法与加法单元,用于从所述激活单元和/或所述存储单元接收数据,并针对所述接收的数据执行乘法和加法操作。
2.根据权利要求1所述的神经网络加速器,其特征在于,所述向量乘法运算单元包括用于针对权值矩阵与拼接向量执行矩阵乘法运算的矩阵行计算阵列。
3.根据权利要求2所述的神经网络加速器,其特征在于,所述向量乘法运算单元还包括用于针对指定门值间存在依赖关系时进行权值矩阵与指定门值向量执行矩阵乘法运算的矩阵列计算阵列。
4.根据权利要求3所述的神经网络加速器,其特征在于,所述矩阵行计算阵列以所述权值矩阵行为单位执行对所述权值矩阵与所述拼接向量的乘运算。
5.根据权利要求4所述的神经网络加速器,其特征在于,所述矩阵列计算阵列以所述权值矩阵列为单位执行对所述权值矩阵与所述指定门值向量的乘运算。
6.根据权利要求5所述的神经网络加速器,其特征在于,所述指定门值是输出门值和记忆门值,所述指定门值向量是记忆门值向量。
7.根据权利要求6所述的神经网络加速器,其特征在于,所述指定门值间存在的依赖关系公式是:
Ot=δ(Wxo·Xt+Who·Y(t-1)+Woc·Ct+bo)
其中,“·”表示矩阵乘法操作,“δ”激活操作,Xt为输入向量,Yt-1为上一级输出向量,Ct为记忆门向量,Ot为输出门向量,bo为输出门对应的偏移量,Wxo、Who和Woc分别为输入门、输出门和记忆门对应的权值。
8.根据权利要求1所述的神经网络加速器,其特征在于,所述多功能运算单元包括加法单元和/或减法单元和/或取反单元。
9.根据权利要求1所述的神经网络加速器,其特征在于,所述神经网络加速器还包括控制单元,用于控制所述存储单元、所述矩阵乘法单元、所述激活单元、所述多功能运算单元以及所述矩阵乘法单元执行针对LSTM或其变异体的运算。
10.一种利用如权利要求1至9任一项所述的神经网络加速器进行数据处理的方法,包括以下步骤:
接收LSTM或其变异体网络参数,分析模型中各门值间的依赖关系;
根据所述依赖关系,调用用于运算的相应功能模块;
利用所述功能模块执行运算并输出计算结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810244102.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:控制装置以及控制方法
- 下一篇:一种设备故障诊断装置及系统