[发明专利]集成电路芯片装置及相关产品有效
申请号: | 201711467271.8 | 申请日: | 2017-12-28 |
公开(公告)号: | CN109978148B | 公开(公告)日: | 2020-06-23 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06N3/06 | 分类号: | G06N3/06 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 100000 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 集成电路 芯片 装置 相关 产品 | ||
1.一种集成电路芯片装置,所述装置用于执行的神经网络的训练,该神经网络包含n层,所述n取值范围为大于等于2的整数,其特征在于,所述集成电路芯片装置包括:主处理电路、k个分支处理电路以及k组基础处理电路,所述主处理电路与所述k个分支处理电路分别连接,k个分支处理电路中每个分支处理电路对应k组基础处理电路中的一组基础处理电路,所述一组基础处理电路包括至少一个基础处理电路;
所述分支处理电路包括:数据类型运算电路,用于执行浮点类型数据与定点类型数据之间的转换;
所述集成电路芯片装置,用于接收训练指令,依据该训练指令确定第一层输入数据和第一层权值组数据,对第一层输入数据和第一层权值组数据执行神经网络的n层正向运算得到正向运算的第n输出结果;
所述主处理电路,还用于依据所述第n输出结果得到第n输出结果梯度,依据所述训练指令获取第n层反向运算的第n反向运算,依据第n输出结果梯度、第n层输入数据、第n层权值组数据以及第n反向运算得到第n反向运算复杂度,依据所述第n反向运算复杂度确定第n输出结果梯度、第n层输入数据、第n层权值组数据对应的第n反向数据类型;
所述主处理电路,用于依据第n反向运算的类型将第n输出结果梯度、第n层输入数据、第n层权值组数据划分成广播数据块以及分发数据块,对第n反向数据类型的所述分发数据块进行拆分处理得到多个基本数据块,将所述多个基本数据块分发至所述k个分支处理电路中的至少一个分支处理电路,将第n反向数据类型的所述广播数据块广播至所述k个分支处理电路;
所述k个分支处理电路,用于通过所述数据类型运算电路将广播数据块以及接收到的基本数据块转换成第n反向数据类型的广播数据块和第n反向数据类型的接收到的基本数据块;将第n反向数据类型的广播数据块和第n反向数据类型的接收到的基本数据块转发给基础处理电路;
所述k组基础处理电路,用于将所述广播数据块以及接收到基本数据块以第n反向数据类型执行运算得到运算结果,并将运算结果通过所述k个分支处理电路传输给所述主处理电路;
所述主处理电路,用于对该运算结果进行处理得到第n层权值组梯度和第n层输入数据梯度,应用所述第n层权值组梯度对第n层权值组数据进行更新;所述第n反向数据类型包括:定点类型或浮点类型;
所述集成电路芯片装置,还用于将第n层输入数据梯度作为第n-1层的第n-1输出结果梯度执行n-1层方向运算得到n-1层权值组梯度,应用n-1层权值组梯度更新对应层的权值组数据,所述权值组数据包括:至少二个权值。
2.根据权利要求1所述的集成电路芯片装置,其特征在于,
所述主处理电路,具体用于将第n反向运算复杂度与预设阈值比较,如所述第n反向运算复杂度高于所述预设阈值,确定所述第n反向数据类型为定点类型,如所述第n反向运算复杂度低于或等于所述预设阈值,计算装置确定所述第n反向数据类型为浮点类型。
3.根据权利要求2所述的集成电路芯片装置,其特征在于,
所述主处理电路,具体用于确定所述第n输出结果梯度、第n层输入数据、第n层权值组数据属于的第n+1反向数据类型,如所述第n+1反向数据类型与所述第n反向数据类型不同,通过所述数据类型运算电路将属于第n+1反向数据类型的所述第n输出结果梯度、第n层输入数据、第n层权值组数据转换成属于第n反向数据类型的所述第n输出结果梯度、第n层输入数据、第n层权值组数据。
4.根据权利要求1所述的集成电路芯片装置,其特征在于,
所述主处理电路,用于如所述第n反向运算为卷积运算,卷积输入数据为所述第n层输入数据,卷积核为所述第n输出结果梯度,
第n反向运算复杂度=α*C1*kH*kW*M*N*W*C2*H;
其中,α为卷积系数,取值范围为大于1;C1、kH、kW、M为卷积核四个维度的值,N、W、C2、H为卷积输入数据四个维度的值;
如所述第n反向运算复杂度大于设定阈值,确定该第n反向数据类型为浮点数据类型,确定该卷积输入数据以及卷积核是否为浮点数据,如该卷积输入数据以及卷积核不为浮点数据,通知所述k个分支处理电路将该卷积输入数据转换成浮点数据,将卷积核转换成浮点数据,然后将卷积输入数据、卷积核以浮点数据类型执行卷积运算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711467271.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:集成电路芯片装置及相关产品
- 下一篇:调度方法及相关装置