[发明专利]计算装置及相关产品在审
申请号: | 201811207452.1 | 申请日: | 2018-10-17 |
公开(公告)号: | CN111062469A | 公开(公告)日: | 2020-04-24 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 装置 相关 产品 | ||
本申请实施例公开了一种计算装置及相关产品,计算装置包括:X组神经网络芯片,X组神经网络芯片中的每一组神经网络芯片中包括一个主芯片和至少一个从芯片,主芯片与从芯片连接,X组神经网络芯片中的主芯片之间连接,X的取值范围为大于或等于2的整数。本申请实施例中公开的计算装置通过将多组神经网络芯片分为主芯片和从芯片,然后根据主芯片之间的连接关系进行芯片中数据的调度,提升了神经网络芯片的训练速度,节省了训练时间。
技术领域
本申请涉及信息处理技术领域,尤其涉及一种计算装置及相关产品。
背景技术
人工神经网络(Artificial Neural Network,即ANN),是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。
现有的神经网络的运算基于CPU(Central Processing Unit,中央处理器)或GPU(英文:Graphics Processing Unit,图形处理器)来实现神经网络的运算,现有的训练设备训练速度慢,耗时久。
发明内容
本申请实施例提供了一种计算装置及相关产品,可提升训练装置的训练速度,提高效率。
第一方面,提供一种计算装置,所述计算装置包括:
X组神经网络芯片,所述X组神经网络芯片中的每一组神经网络芯片中包括一个主芯片和至少一个从芯片,所述主芯片与所述从芯片连接,所述X组神经网络芯片中的主芯片之间连接,所述X的取值范围为大于或等于2的整数;
所述X组神经网络芯片中的每一个神经网络芯片用于获取输入数据和权值,并将所述权值与所述每一个神经网络芯片对应的输入数据进行运算,获得运算结果,其中所述每一个神经网络芯片获取的所述输入数据不同,获取的所述权值相同;
所述X组神经网络芯片中的第一组神经网络芯片中的第一主芯片,用于接收与所述第一主芯片连接的从芯片的运算结果;
所述第一主芯片用于将所述第一主芯片的运算结果和接收的所述从芯片的运算结果共享给其他组神经网路芯片中的主芯片,并接收其他组神经网络芯片中的主芯片共享的运算结果。
第二方面,提供一种神经网络芯片,所述神经网络芯片包括:运算单元以及控制器单元;所述运算单元包括:一个主处理电路和多个从处理电路;
所述控制器单元,用于获取输入数据以及计算指令;
所述控制器单元,还用于解析该计算指令得到多个运算指令,将该多个运算指令以及所述输入数据发送给所述主处理电路;
所述主处理电路,用于对所述输入数据执行前序处理以及与所述多个从处理电路之间传输数据和运算指令;
所述多个从处理电路,用于依据从所述主处理电路传输的数据以及运算指令并行执行中间运算得到多个中间结果,并将多个中间结果传输给所述主处理电路;
所述主处理电路,用于对所述多个中间结果执行后续处理得到所述计算指令的运算结果。
第三方面,提供一种组合计算装置,所述组合计算装置包括:M个如权利要求1所述的计算装置,所述M个如权利要求1所述的计算装置之间连接,所述M取值范围为大于或等于2的整数。
第四方面,提供一种执行机器学习模型的计算方法,所述计算方法应用于如第一方面所述的计算装置。
第五方面,提供一种执行机器学习模型的计算方法,所述计算方法应用于如第三方面所述的组合计算装置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811207452.1/2.html,转载请声明来源钻瓜专利网。