[发明专利]神经网络的稀疏方法及相关产品在审
申请号: | 201910752535.7 | 申请日: | 2019-08-14 |
公开(公告)号: | CN110490314A | 公开(公告)日: | 2019-11-22 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 北京中科寒武纪科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/08 |
代理公司: | 44202 广州三环专利商标代理有限公司 | 代理人: | 郝传鑫;熊永强<国际申请>=<国际公布> |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络运算 计算芯片 神经网络 稀疏处理 计算量 功耗 稀疏 申请 运算 | ||
本申请提供一种神经网络的稀疏的方法及计算芯片,所述方法用于在神经网络运算中执行稀疏处理后进行运算。本申请提供的技术方案具有计算量小,功耗低的优点。
技术领域
本披露涉及神经网络领域,尤其涉及一种神经网络的稀疏方法及相关产品。
背景技术
人工神经网络(Artificial Neural Network,即ANN),是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。现有的神经网络的运算基于输入数据与权值等原始数据计算得到对应的结果,此种原始数据执行计算的计算量大,功耗高。
发明内容
本披露实施例提供了一种神经网络的稀疏方法及相关产品,可降低神经网络的计算量,提升计算芯片的处理速度,提高效率。
第一方面,提供一种神经网络的稀疏的方法,所述方法包括如下步骤:
确定待稀疏数据以及待稀疏数据的第一稀疏参数;
获取待稀疏数据的稀疏信息,依据该稀疏信息调整该待稀疏数据的第一稀疏参数得到第二稀疏参数;
依据第二稀疏参数对该待稀疏数据执行稀疏操作得到稀疏后的数据,将稀疏后的数据输入神经网络模型执行神经网络运算得到运算结果。
可选的,所述稀疏参数包括:稀疏阈值、稀疏率中的一种或任意组合。
可选的,所述稀疏信息包括:待稀疏数据的时间参数、待稀疏数据的环境参数、待稀疏数据的计算精度阈值中的一种或任意组合。
可选的,如所述稀疏信息包括待稀疏数据的时间参数时,所述依据该稀疏信息调整该待稀疏数据的第一稀疏参数得到第二稀疏参数具体包括:
第二稀疏参数=第一稀疏参数*f(x);该f(x)可以为依据时间参数正相关函数且f(x)≥1;x为时间参数值,所述时间参数包括:时间值或帧数值。
可选的,如所述稀疏信息包括待稀疏数据的环境参数时,所述依据该稀疏信息调整该待稀疏数据的第一稀疏参数得到第二稀疏参数具体包括:
将该环境参数作为输入数据输入到稀疏神经网络运算得到该环境参数对应的第三稀疏参数,如第三稀疏参数与第一稀疏参数不同,确定第三稀疏参数为第二稀疏参数,如第三稀疏参数与第一稀疏参数相同,确定第一稀疏参数为第二稀疏参数;
所述环境参数包括:光线强度值、温度值、湿度值中的一种或任意组合。
可选的,如所述稀疏信息包括待稀疏数据的计算精度阈值时,所述依据该稀疏信息调整该待稀疏数据的第一稀疏参数得到第二稀疏参数具体包括:
将计算精度阈值与预设精度比较得到比较结果,依据该比较结果确定该第一稀疏参数的调整策略,依据该调整策略对第一稀疏参数进行调整得到该第二稀疏参数。
可选的,所述调整策略包括:不调整、向上调整、向下调整、逐步向上调整或逐步向下调整;
所述比较结果包括:计算精度阈值大于预设精度,计算精度阈值小于预设精度,计算精度阈值等于预设精度。
可选的,所述依据该比较结果确定该第一稀疏参数的调整策略具体包括:
如比较结果为计算精度阈值大于预设精度,则确定该第一稀疏参数的调整策略可以为向上调整或逐步向上调整;
如比较结果为计算精度阈值小于预设精度,则确定该第一稀疏参数的调整策略可以为向下调整或逐步向下调整;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中科寒武纪科技有限公司,未经北京中科寒武纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910752535.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种内存复用方法及其相关产品
- 下一篇:神经网络的反向运算稀疏方法及相关产品