[发明专利]神经网络处理装置及其执行向量乘加指令的方法有效
申请号: | 201810914600.7 | 申请日: | 2018-08-08 |
公开(公告)号: | CN109165732B | 公开(公告)日: | 2022-05-31 |
发明(设计)人: | 王秉睿;周聖元;张尧 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 处理 装置 及其 执行 向量 指令 方法 | ||
1.一种处理装置,用于根据向量乘加指令执行运算,其特征在于,所述处理装置包括:存储器、运算单元、控制单元和寄存器单元;
所述寄存器单元,用于存储向量乘加指令;所述向量乘加指令包括操作码和操作域,所述操作码用于指示进行向量乘加运算;所述操作域包括参与向量乘加运算的数据的首地址和参与向量乘加运算的数据中部分数据或者全部数据的索引的地址;
所述存储器,用于存储参与向量乘加运算的数据;
所述控制单元,用于从所述寄存器单元中获取所述向量乘加指令,解析所述向量乘加指令,以得到所述操作码和操作域;根据所述操作域从所述存储器中获取所述参与向量乘加运算的数据和所述参与向量乘加运算的数据中部分数据或者全部数据的索引;并将所述参与向量乘加运算的数据传输至所述运算单元;
所述运算单元,用于对所述参与向量乘加运算的数据进行向量乘加运算;
其中,当所述向量乘加指令为第一向量乘加指令时,所述操作码用于指示进行第一向量乘加运算,所述操作域包括:稀疏向量X6的索引表示方式、稀疏向量X6中元素的首地址、稀疏向量X6的索引的首地址、向量Y6中元素的首地址和第四标量的首地址;
所述控制单元具体用于:根据所述稀疏向量X6中元素的首地址从所述存储器中获取所述稀疏向量X6;根据所述向量Y6中元素的首地址从所述存储器中获取所述向量Y6;根据所述稀疏向量X6的索引的首地址从所述存储器中分别获取所述稀疏向量X6的索引;根据所述第四标量的首地址从所述存储器中获取所述第四标量;根据所述稀疏向量X6的索引表示方式和所述稀疏向量X6的索引对所述向量Y6中的元素进行筛选,以得到稀疏向量Y6;并将所述稀疏向量X6、稀疏向量Y6和第四标量传输至所述运算单元;
所述运算单元具体用于:对所述稀疏向量X6、稀疏向量Y6和第四标量进行第一向量乘加运算;
或者,
当所述向量乘加指令为第二向量乘加指令时,所述操作码用于指示进行第二向量乘加运算,所述操作域包括:稀疏向量sX6的索引表示方式、稀疏向量sX6中元素的首地址、稀疏向量sX6的索引的首地址、稀疏向量sY6中元素的首地址、稀疏向量sY6的索引的首地址和第四标量的首地址;
所述控制单元具体用于:根据所述稀疏向量sX6中元素的首地址和所述稀疏向量sY6中元素的首地址分别从所述存储器中获取所述稀疏向量sX6和所述稀疏向量sY6;根据所述稀疏向量sX6的索引的首地址和所述稀疏向量sY6的索引的首地址分别从所述存储器中分别获取所述稀疏向量sX6的索引和稀疏向量sY6的索引;根据所述第四标量的首地址从所述存储器中获取所述第四标量;根据所述稀疏向量sX6的索引表示方式、所述稀疏向量sX6的索引和所述稀疏向量sY6的索引得到第一中间索引;根据所述第一中间索引对所述稀疏向量sX6和所述稀疏向量sY6中的元素进行筛选,以得到筛选后的稀疏向量sX6和筛选后的稀疏向量sY6;并将所述筛选后的稀疏向量sX6和筛选后的稀疏向量sY6和第四标量传输至所述运算单元;所述运算单元对所述筛选后的稀疏向量sX6和筛选后的稀疏向量sY6和第四标量进行第二向量乘加运算。
2.根据权利要求1所述的处理装置,其特征在于,所述操作域还包括:稀疏向量X6中元素的个数、向量Y6中元素的个数和向量Y6中元素之间的地址间隔;
所述控制单元根据所述稀疏向量X6中元素的首地址从所述存储器中获取所述稀疏向量X6,包括:
根据所述稀疏向量X6中元素的首地址和所述稀疏向量X6中元素的个数从所述存储器中获取所述稀疏向量X6;
所述控制单元根据所述向量Y6中元素的首地址从所述存储器中获取所述向量Y6,包括:
根据所述向量Y6中元素的首地址、所述向量Y6中元素的个数和所述向量Y6中元素之间的地址间隔从所述存储器中获取所述向量Y6。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810914600.7/1.html,转载请声明来源钻瓜专利网。