[发明专利]生成指令序列的方法、执行神经网络运算的方法和装置有效
申请号: | 201910190559.8 | 申请日: | 2019-03-13 |
公开(公告)号: | CN109919311B | 公开(公告)日: | 2020-04-10 |
发明(设计)人: | 王振江;李建军;凌坤;陈亮;黄畅 | 申请(专利权)人: | 北京地平线机器人技术研发有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京市正见永申律师事务所 11497 | 代理人: | 黄小临;冯玉清 |
地址: | 100080 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 公开了一种生成指令序列的方法、执行神经网络运算的方法和装置。其中,生成神经网络的指令序列的方法,包括:获取神经网络各层的属性数据;根据神经网络各层的属性数据,确定至少一个层级组及其拆分参数,所述层级组包括所述神经网络中的至少一个层,所述拆分参数包括至少一个预定维度和每个预定维度将被切分成的预定份数;以及,根据神经网络各层的属性数据、所述至少一个层级组的拆分参数,生成所述神经网络的指令序列。本申请实施例通过将神经网络中各层分组来实现该神经网络中各层的同时拆分计算,在存储器容量有限的情况下,能够在不增加硬件成本的前提下同时提高硬件执行神经网络运算的效率和处理能力。 | ||
搜索关键词: | 生成 指令 序列 方法 执行 神经网络 运算 装置 | ||
【主权项】:
1.一种生成神经网络的指令序列的方法,包括:获取神经网络各层的属性数据;根据神经网络各层的属性数据,确定至少一个层级组及其拆分参数,所述层级组包括所述神经网络中的至少一个层,所述拆分参数包括至少一个预定维度和每个预定维度将被切分成的预定份数;以及根据神经网络各层的属性数据、所述至少一个层级组的拆分参数,生成所述神经网络的指令序列;其中,所述指令序列中包含所述至少一个层级组中各层的运算操作指令,所述运算操作指令中的输出参数指示所述至少一个层级组的输出特征数据,所述至少一个层级组的输出特征数据由所述至少一个层级组的输出特征图在所述至少一个预定维度上划分成所述预定份数而得到;其中,所述确定至少一个层级组及其拆分参数,包括:确定所述神经网络的前(i‑1)层的具有最小运算操作开销的分组方式;以及基于所述神经网络的前(i‑1)层的分组方式,确定所述神经网络的前i层的具有最小运算操作开销的分组方式,并且重复所述基于所述神经网络的前(i‑1)层的分组方式,确定所述神经网络的前i层的具有最小运算操作开销的分组方式的步骤直到确定所述神经网络的具有最小运算操作开销的分组方式,从而获得与所述神经网络的具有最小运算操作开销的分组方式对应的至少一个层级组及其拆分参数,其中,i为2至n的整数,n是所述神经网络包括的层数。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京地平线机器人技术研发有限公司,未经北京地平线机器人技术研发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910190559.8/,转载请声明来源钻瓜专利网。