[发明专利]一种用于神经网络处理器的方法有效
申请号: | 201711054158.7 | 申请日: | 2017-10-31 |
公开(公告)号: | CN107832840B | 公开(公告)日: | 2020-05-22 |
发明(设计)人: | 韩银和;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/08 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 神经网络 处理器 方法 | ||
本发明提供一种用于神经网络处理器的方法,包括:1)确定所述神经网络处理器的电路构造;2)增加所述电路构造中至少一条路径上的至少一个器件的延时;3)将测试用的数据集作为增加了延时后的所述电路构造的输入,并通过评估所述电路构造的工作状况来获得用于所述神经网络处理器的神经网络权重值。
技术领域
本发明涉及对神经网络处理器的设计及优化。
背景技术
深度学习是机器学习领域的重要分支,随着深度神经网络技术的发展,一些用于深度神经网络的专用处理器也应运而生。研究人员在神经网络的硬件加速领域进行了探索,神经网络处理器正在向与异构多核平台发展,例如GPU、FPGA和ASIC等。伴随神经网络复杂度的不断提高,神经网络技术在实际应用过程中存在占用资源多、运算速度慢、能量消耗大等问题,尤其在嵌入式设备中终端设备通常需要较长的续航时间,因此,能耗对与神经网络处理器的功能完整性起着至关重要的作用。
另一方面,近阈值(Near-Threshold)集成电路设计是一种针对电路设计的方法,其原理在于首先确定基于工艺的器件电压阈值,通过对电路设计进行调整使得所获得的电路能够在接近晶体管的阈值电压的水平下进行工作。这样的近阈值集成电路设计方法被认为是能够大幅度地降低能耗、将计算能效提升一个数量级的设计技术。
然而,直接将电压降低至近阈值水平往往会导致电路无法正常工作或者会大幅地增加系统发生故障的概率,急需一种将近阈值集成电路设计方法与神经网络处理器结合在一起并且能够有效地改善处理器电路性能的用于神经网络处理器的工业设计方法。
发明内容
因此,本发明的目的在于克服上述现有技术的缺陷,提供一种用于神经网络处理器的方法,包括:
1)确定所述神经网络处理器的电路构造;
2)增加所述电路构造中至少一条路径上的至少一个器件的延时;
3)将测试用的数据集作为增加了延时后的所述电路构造的输入,并通过评估所述电路构造的工作状况来获得用于所述神经网络处理器的神经网络权重值。
优选地,根据所述方法,其中步骤2)包括:
2-1)获得所述电路构造中多条路径的延时信息;
2-2)根据所述延时信息,计算所述多条路径中的每一个的建立时间的裕量;
2-3)选择建立时间的裕量最少的至少一条路径上的至少一个器件,增加所述器件的延时。
优选地,根据所述方法,其中步骤2)包括:
获得所述电路构造中的一条或多条关键路径的延时信息;
增加所述一条或多条关键路径上的至少一个器件的延时。
优选地,根据所述方法,其中步骤3)包括:
3-1)使得神经网络处理器采用前一次计算获得的神经网络权重值,根据输入的测试用的数据集进行正向传播的计算,其中,对于第一次迭代,采用初始的神经网络权重值;
3-2)将正向传播的计算的结果与期望的结果进行比对,获得错误率;
3-3)若所述错误率收敛或者达到最大迭代次数,则输出计算的神经网络权重值,否则执行反向传播的计算并重复步骤3-1)至步骤3-3)。
优选地,根据所述方法,其中所述错误率为针对所述测试用的数据集的均方根误差。
优选地,根据所述方法,其中所述神经网络处理器的电路构造中包含具有纠错功能的电路。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711054158.7/2.html,转载请声明来源钻瓜专利网。