[发明专利]面向神经网络的矩阵转换装置及方法有效
申请号: | 201811040908.X | 申请日: | 2018-09-07 |
公开(公告)号: | CN109190755B | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | 韩银和;闵丰;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06F17/16 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇;李科 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 神经网络 矩阵 转换 装置 方法 | ||
1.一种面向神经网络的矩阵转换装置,包括:
数据接收接口,用于接收并传递神经网络的待转换矩阵数据;
转换矩阵接收接口,用于接收并传递对应于所述待转换矩阵数据的转换矩阵;
矩阵运算单元,与所述数据接收接口和所述转换矩阵接收接口分别连接,利用所述待转换矩阵数据和所述对应的转换矩阵执行矩阵转换运算;其中所述矩阵运算单元包括用于针对动态转换矩阵执行矩阵乘法运算的乘法运算模块、用于针对静态转换矩阵执行移位运算的移位运算模块以及用于执行接收并累加移位运算模块或乘法运算模块获得的运算结果的累加运算模块;其中所述矩阵运算单元还用于对经累加运算模块累加后的移位运算模块和乘法运算模块获得的运算结果进行点乘运算;所述静态转换矩阵是指用于执行矩阵运算的转换矩阵的参数为固定值,且属于集合{0、±(1/2)n},其中,n∈{0、1、2、3、……};所述动态转换矩阵是指用于执行矩阵运算的转换矩阵的参数为动态值或不属于静态转换矩阵的参数范围;
输出接口,与所述矩阵运算单元相连,用于拼接并输出所述矩阵运算单元获得的运算结果;
暂存单元,与所述数据接收接口和所述输出接口相连,用于暂存所述输出接口输出的运算结果,并将所述运算结果输入至所述数据接收接口。
2.根据权利要求1所述的矩阵转换装置,其特征在于,
所述待转换矩阵数据包括权值矩阵数据g和输入特征图数据d;
所述转换矩阵包括对应于所述权值矩阵数据g的权值转换矩阵G,以及对应于所述输入特征图数据d的输入特征图转换矩阵B;
所述矩阵运算单元用于执行所述转换矩阵G/B及其转置矩阵GT/BT与所述待转换矩阵数据g/d之间的向量乘累加和/或矩阵乘法运算;
所述输出接口用于拼接获得中间结果矩阵Lg/Ld;
所述暂存单元用于暂存所述中间结果矩阵Lg/Ld。
3.根据权利要求2所述的矩阵转换装置,其特征在于,
所述数据接收接口用于将所述中间结果矩阵Lg/Ld传递至所述矩阵运算单元;
所述矩阵运算单元用于执行所述中间结果矩阵Lg/Ld与所述转换矩阵G/B和/或其转换矩阵GT/BT之间的向量乘累加和/或矩阵乘法运算;
所述输出接口用于拼接获得对应于所述权值矩阵数据/所述输入特征图数据的转换结果矩阵U/V;
所述暂存单元用于暂存所述转换结果矩阵U/V。
4.根据权利要求3所述的矩阵转换装置,其特征在于,
所述矩阵运算单元用于执行针对所述转换结果矩阵U和所述转换结果矩阵V的点乘运算;
所述输出接口用于拼接获得中间运算矩阵M;
所述暂存单元用于暂存所述中间运算矩阵M。
5.根据权利要求4所述的矩阵转换装置,其特征在于,
所述转换矩阵还包括对应于所述权值矩阵数据g和所述输入特征图数据d的目标转换矩阵A;
所述矩阵运算单元用于执行针对所述转换矩阵A及其转置矩阵AT与所述中间运算矩阵M的向量乘累加和/或矩阵乘法运算;
所述输出接口用于拼接获得中间结果矩阵LM;
所述暂存单元用于暂存所述中间结果矩阵LM。
6.根据权利要求5所述的矩阵转换装置,其特征在于,
所述矩阵运算单元用于执行中间结果矩阵LM与所述转换矩阵A之间的向量乘累加运算;
用所述输出接口用于拼接获得最终的点乘结果矩阵F。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811040908.X/1.html,转载请声明来源钻瓜专利网。