[发明专利]处理单元、处理器核、神经网络训练机及方法在审

专利信息
申请号: 201911330492.X 申请日: 2019-12-20
公开(公告)号: CN113011577A 公开(公告)日: 2021-06-22
发明(设计)人: 关天婵;高源;柳春笙;陈教彦 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06N3/08 分类号: G06N3/08;G06N3/04;G06N3/063
代理公司: 北京成创同维知识产权代理有限公司 11449 代理人: 李镇江
地址: 英属开曼群岛大*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 处理 单元 处理器 神经网络 训练 方法
【权利要求书】:

1.一种处理单元,其特征在于,包括:

计算单元,用于执行神经网络节点的权重梯度计算;

解压缩单元,将获取的压缩权重信号解压缩成权重信号和修剪信号,其中,所述权重信号指示各神经网络节点的权重,所述修剪信号指示各神经网络节点的权重是否在权重梯度计算中使用,所述修剪信号被用于控制是否允许访问存储所述权重计算中使用的操作数的操作数存储器,所述修剪信号还被用于控制是否允许所述计算单元利用所述权重信号和所述操作数执行权重梯度计算。

2.根据权利要求1所述的处理单元,其特征在于,所述权重信号包括多个权重位,每个权重位表示一个神经网络节点的权重;所述修剪信号包括与所述权重信号位数相同的多个指示位,其中,当指示位取第一值时,表示相应神经网络节点的权重在权重梯度计算中使用;当指示位取第二值时,表示相应神经网络节点的权重在权重梯度计算中不使用。

3.根据权利要求1或2所述的处理单元,其特征在于,还包括:计算启用单元,耦接至所述解压缩单元,用于接收解压缩单元输出的修剪信号,并基于所述修剪信号,控制是否允许计算单元利用所述权重信号和所述操作数执行权重梯度计算。

4.根据权利要求1或2所述的处理单元,其特征在于,所述计算单元为多个计算单元,每个计算单元对应于一个神经网络节点,所述多个计算单元分别通过各自的时钟开关连接至时钟端,所述计算启用单元基于所述修剪信号,控制所述多个计算单元的时钟开关的接通和断开。

5.根据权利要求1或2所述的处理单元,其特征在于,所述计算单元为多个计算单元,每个计算单元对应于一个神经网络节点,所述多个计算单元分别通过各自的电源开关连接至电源端,所述计算启用单元基于所述修剪信号,控制所述多个计算单元的电源开关的接通和断开。

6.根据权利要求1或2所述的处理单元,其特征在于,所述解压缩单元耦接至所述处理单元外部的第一存储控制单元,所述第一存储控制单元基于所述修剪信号,控制是否允许访问存储所述权重计算中使用的操作数的操作数存储器。

7.根据权利要求6所述的处理单元,其特征在于,所述操作数存储器为多个操作数存储器,每个操作数存储器对应于一个神经网络节点,每个操作数存储器具有读有效端口,所述第一存储控制单元耦接到各操作数存储器的读有效端口,基于所述修剪信号,控制是否置位各操作数存储器的读有效端口。

8.根据权利要求1或2所述的处理单元,其特征在于,所述解压缩单元耦接至所述计算单元,用于将解压缩成的权重信号输出给所述计算单元,用于权重梯度计算。

9.根据权利要求1或2所述的处理单元,其特征在于,所述解压缩单元耦接至多个权重存储器,用于将解压缩成的权重信号输出给所述所述多个权重存储器,每个权重存储器对应于一个神经网络节点,每个权重存储器具有读有效端口;所述解压缩单元还耦接至所述处理单元外部的第二存储控制单元,所述第二存储控制单元耦接到各权重存储器的读有效端口,基于所述修剪信号,控制是否置位各权重存储器的读有效端口。

10.根据权利要求7所述的处理单元,其特征在于,所述解压缩单元耦接至多个权重存储器,用于将解压缩成的权重信号输出给所述所述多个权重存储器,每个权重存储器对应于一个神经网络节点,每个权重存储器具有读有效端口;所述解压缩单元还耦接至所述第一存储控制单元,所述第一存储控制单元还耦接到各权重存储器的读有效端口,并基于所述修剪信号,控制是否置位各权重存储器的读有效端口。

11.根据权利要求1或2所述的处理单元,其特征在于,还包括:

权重信号生成单元,用于基于各神经网络节点的权重,生成权重信号;

修剪信号生成单元,用于基于各神经网络节点的权重是否在权重梯度计算中使用的指示,生成修剪信号;

压缩单元,用于将生成的权重信号和修剪信号压缩成压缩权重信号。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911330492.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top