[发明专利]通过跳过处理操作来减少神经网络处理器中的功耗有效
申请号: | 201880025480.3 | 申请日: | 2018-04-16 |
公开(公告)号: | CN110546611B | 公开(公告)日: | 2023-05-02 |
发明(设计)人: | A·A·安巴德卡;C·B·麦克布赖德;G·彼得;L·M·瓦尔;K·D·塞多拉;B·博布罗夫 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F12/02 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 赵林琳 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 深度神经网络(“DNN”)模块可以确定由神经元对输入缓冲区或权重缓冲区中的某些值的处理是否可以被跳过。例如,DNN模块可以确定神经元是否可以跳过对神经元缓冲区的整个列中的值的处理。例如,如果输入缓冲区或权重缓冲区的整个列为零,则可以跳过对这些值的处理。DNN模块还可以确定对输入缓冲区或权重缓冲区的行中的单个值的处理(例如,如果这些值为零)是否可以被跳过。由于跳过操作而提早完成其处理的神经元可以协助其他神经元进行其处理。可以在将由神经元执行的处理操作的结果传递给其正确所有者的处理完成之后执行组合操作。 | ||
搜索关键词: | 通过 跳过 处理 操作 减少 神经网络 处理器 中的 功耗 | ||
【主权项】:
1.一种神经网络模块,包括:/n多个神经元;以及/n存储器设备,所述存储器设备存储:/n第一缓冲区,所述第一缓冲区包括用于由所述神经网络模块中的所述多个神经元处理的第一数据,以及/n第二缓冲区,所述第二缓冲区存储用于由所述神经网络模块中的所述多个神经元处理的第二数据,其中所述第一缓冲区中的所述第一数据和所述第二缓冲区中的所述第二数据被组织成对应的行和列;并且/n其中所述神经网络模块被配置为:/n确定所述第一缓冲区的列中的所述第一数据是否包括值或者所述第二缓冲区的对应列中的所述第二数据是否包括所述值,以及/n如果所述第一数据或所述第二数据包括所述值,则使得所述多个神经元跳过对所述第一数据和所述第二数据的处理。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201880025480.3/,转载请声明来源钻瓜专利网。