[发明专利]一种网络模型的计算方法及装置有效
申请号: | 201810147747.8 | 申请日: | 2018-02-12 |
公开(公告)号: | CN110147249B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F9/302 | 分类号: | G06F9/302;G06N3/063 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 模型 计算方法 装置 | ||
1.一种计算装置,其特征在于,所述计算装置用于执行网络模型的计算,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元,所述运算单元包括:一个主处理电路以及多个从处理电路,所述主处理电路与多个从处理电路连接;
所述数据输入输出单元,用于获取计算数据、网络模型以及计算指令,所述计算数据包括:输入数据和权值数据;
所述控制器单元,用于从存储单元获取计算指令,将该计算指令、计算数据发送给所述主处理电路;
所述主处理电路,用于将计算数据中的输入数据或权值数据中的一个数据作为分发数据分配成多个分发数据块,将该多个分发数据块分发给所述多个从处理电路,解析该计算指令得到多个运算指令,将该多个运算指令中至少一个运算指令分发给所述多个从处理电路,将广播数据转发给所述多个从处理电路,所述广播数据为所述计算数据的输入数据或权值数据中的另一个数据;
所述多个从处理电路,用于依据接收到的运算指令对接收到的数据执行运算得到中间结果,将该中间结果发送至所述主处理电路;
所述主处理电路,用于将多个从处理电路发送的中间结果进行处理得到该计算指令的结果,将该计算指令的结果发送给所述控制器单元。
2.根据权利要求1所述的装置,其特征在于,所述存储单元还包括:存储介质和标量数据存储单元;
所述存储介质,用于存储所述网络模型、输入数据、权值数据;
所述标量数据存储单元,用于存储标量数据。
3.根据权利要求1所述的装置,其特征在于,所述控制器单元包括:指令存储单元、指令处理单元和存储队列单元;
所述指令存储单元,用于存储所述网络模型关联的计算指令;
所述指令处理单元,用于对所述计算指令解析得到多个运算指令;
所述存储队列单元,用于存储指令队列,该指令队列包括:按该队列的前后顺序待执行的多个运算指令或计算指令。
4.根据权利要求3所述的装置,其特征在于,所述运算单元包括:依赖关系处理单元;
所述依赖关系处理单元,用于确定第一运算指令与所述第一运算指令之前的第零运算指令是否存在关联关系,如所述第一运算指令与所述第零运算指令存在关联关系,将所述第一运算指令缓存在所述指令存储单元内,在所述第零运算指令执行完毕后,从所述指令存储单元提取所述第一运算指令传输至所述运算单元;
所述确定该第一运算指令与第一运算指令之前的第零运算指令是否存在关联关系包括:
依据所述第一运算指令提取所述第一运算指令中所需数据的第一存储地址区间,依据所述第零运算指令提取所述第零运算指令中所需数据的第零存储地址区间,如所述第一存储地址区间与所述第零存储地址区间具有重叠的区域,确定所述第一运算指令与所述第零运算指令具有关联关系,如所述第一存储地址区间与所述第零存储地址区间不具有重叠的区域,确定所述第一运算指令与所述第零运算指令不具有关联关系。
5.根据权利要求1所述的装置,其特征在于,
所述运算单元还包括:多个分支处理电路,所述分支处理电路连接在所述主处理电路与多个从处理电路之间;
所述分支处理电路,用于转发所述主处理电路与从处理电路之间的数据。
6.根据权利要求1所述的装置,其特征在于,
所述主处理电路,用于将所述广播数据分配成多个广播数据块,将该多个广播数据块转发给所述多个从处理电路。
7.一种芯片,其特征在于,所述芯片包括如上权利要求1-6任意一项所述的计算装置。
8.一种电子设备,其特征在于,所述电子设备包括如上权利要求7所述的芯片。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810147747.8/1.html,转载请声明来源钻瓜专利网。