[发明专利]一种网络模型的计算方法及装置有效
申请号: | 201810147747.8 | 申请日: | 2018-02-12 |
公开(公告)号: | CN110147249B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F9/302 | 分类号: | G06F9/302;G06N3/063 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 模型 计算方法 装置 | ||
本公开提供了一种网络模型的计算方法及装置,所述计算装置用于执行网络模型的计算,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元,所述运算单元包括:一个主处理电路以及多个从处理电路,所述主处理电路与多个从处理电路连接。本申请提供的技术方案具有计算速度快,功耗低的优点。
技术领域
本申请涉及信息处理技术领域,具体涉及一种网络模型的计算方法及装置。
背景技术
随着信息技术的不断发展和人们日益增长的需求,人们对信息及时性的要求越来越高了。目前,终端对信息的获取以及处理均是基于通用处理器获得的。
在实践中发现,这种基于通用处理器运行软件程序来处理信息的方式,受限于通用处理器的运行速率,特别是在通用处理器负荷较大的情况下,信息处理效率较低、时延较大,对于信息处理的计算模型例如训练模型来说,训练运算的计算量更大,通用的处理器完成训练运算的时间长,效率低。
发明内容
本申请实施例提供了一种神经网络训练方法及相关产品,可提升训练运算的处理速度,提高效率。
第一方面,提供一种计算装置,所述计算装置用于执行网络模型的计算,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元,所述运算单元包括:一个主处理电路以及多个从处理电路,所述主处理电路与多个从处理电路连接;
所述数据输入输出单元,用于获取计算数据、网络模型以及计算指令,所述计算数据包括:输入数据和权值数据;
所述控制器单元,用于从存储单元获取计算指令,将该计算指令、计算数据发送给所述主处理电路;
所述主处理电路,用于将计算数据中的输入数据或权值数据中的一个数据作为分发数据分配成多个分发数据块,将该多个分发数据块分发给所述多个从处理电路,解析该计算指令得到多个运算指令,将该多个运算指令中至少一个运算指令分发给所述多个从处理电路,将所述广播数据转发给所述多个从处理电路,所述广播数据为所述计算数据的输入数据或权值数据中的另一个数据;
所述多个从处理电路,用于依据接收到的运算指令对接收到的数据执行运算得到中间结果,将该中间结果发送至所述主处理电路;
所述主处理电路,用于将多个从处理电路发送的中间结果进行处理得到该计算指令的结果,将该计算指令的结果发送给所述控制器单元。
第二方面,提供一种网络模型的计算方法,所述方法由计算装置执行,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元,所述运算单元包括:一个主处理电路以及多个从处理电路,所述主处理电路与多个从处理电路连接;
所述数据输入输出单元获取计算数据、网络模型以及计算指令,所述计算数据包括:输入数据和权值数据;
所述控制器单元从存储单元获取计算指令,将该计算指令、计算数据发送给所述主处理电路;
所述主处理电路将计算数据中的输入数据或权值数据中的一个数据作为分发数据分配成多个分发数据块,将该多个分发数据块分发给所述多个从处理电路,解析该计算指令得到多个运算指令,将该多个运算指令中至少一个运算指令分发给所述多个从处理电路,将所述广播数据转发给所述多个从处理电路,所述广播数据为所述计算数据的输入数据或权值数据中的另一个数据;
所述多个从处理电路依据接收到的运算指令对接收到的数据执行运算得到中间结果,将该中间结果发送至所述主处理电路;
所述主处理电路将多个从处理电路发送的中间结果进行处理得到该计算指令的结果,将该计算指令的结果发送给所述控制器单元。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810147747.8/2.html,转载请声明来源钻瓜专利网。