[发明专利]降低神经网络CPU峰值利用率的方法、装置、设备和介质在审
申请号: | 202310236898.1 | 申请日: | 2023-03-13 |
公开(公告)号: | CN116466815A | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 司玉景;李全忠 | 申请(专利权)人: | 普强时代(珠海横琴)信息技术有限公司 |
主分类号: | G06F1/3234 | 分类号: | G06F1/3234;G06F9/50;G06N3/048 |
代理公司: | 北京千壹知识产权代理事务所(普通合伙) 11940 | 代理人: | 王玉玲 |
地址: | 519031 广东省珠海市横琴*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 降低 神经网络 cpu 峰值 利用率 方法 装置 设备 介质 | ||
1.一种降低神经网络CPU峰值利用率的方法,其特征在于,包括如下步骤:
判断步骤,根据待输入至神经网络中的特征向量序列的输入时序,判断该特征向量序列的类型,所述特征向量序列的类型包括关键帧和过渡帧;
关键帧处理步骤,若待输入至神经网络中的特征向量序列为关键帧,则将该关键帧输入至神经网络,将神经网络前向计算的运算过程按照第一预设比例分配给所述关键帧,从而获得神经网络的第一中间隐藏层的输出;
过渡帧处理步骤,若待输入至神经网络中的特征向量序列为所述关键帧之后的过渡帧,则将所述第一中间隐藏层的输出作为后续中间隐藏层的输入,将神经网络前向计算的运算过程按照第二预设比例分配给所述过渡帧,以获得所述后续中间隐藏层的输出;重复上述过程,直至所述过渡帧的计算过程包含神经网络输出层,得到神经网络最终输出结果;
重复所述关键帧处理步骤和过渡帧处理步骤,直至所有的特征向量序列处理完毕。
2.根据权利要求1所述的一种降低神经网络CPU峰值利用率的方法,其特征在于,所述第一预设比例和所述第二预设比例根据神经网络前向计算的运算量平均分配。
3.根据权利要求1所述的一种降低神经网络CPU峰值利用率的方法,其特征在于,将输入层到隐藏层的运算分配给所述关键帧,将隐藏层到输出层的运算分配给所述过渡层。
4.根据权利要求1所述的一种降低神经网络CPU峰值利用率的方法,其特征在于,待输入至神经网络中的特征向量序列中的关键帧之间间隔预定数量的过渡帧。
5.一种降低神经网络CPU峰值利用率的装置,其特征在于,包括:
判断模块,被配置为根据待输入至神经网络中的特征向量序列的输入时序,判断该特征向量序列的类型,所述特征向量序列的类型包括关键帧和过渡帧;
关键帧处理模块,被配置为若待输入至神经网络中的特征向量序列为关键帧,则将该关键帧输入至神经网络,将神经网络前向计算的运算过程按照第一预设比例分配给所述关键帧,从而获得神经网络的第一中间隐藏层的输出;
过渡帧处理模块,被配置为若待输入至神经网络中的特征向量序列为过渡帧,则将所述第一中间隐藏层的输出作为后续中间隐藏层的输入,将神经网络前向计算的运算过程按照第二预设比例分配给所述过渡帧,以获得所述后续中间隐藏层的输出;重复上述过程,直至所述过渡帧的计算过程包含神经网络输出层,得到神经网络最终输出结果;
重复所述关键帧处理模块和过渡帧处理模块的执行过程,直至所有的特征向量序列处理完毕。
6.根据权利要求5所述的一种降低神经网络CPU峰值利用率的装置,其特征在于,所述第一预设比例和所述第二预设比例根据神经网络前向计算的运算量平均分配。
7.根据权利要求5所述的一种降低神经网络CPU峰值利用率的装置,其特征在于,将输入层到隐藏层的运算分配给所述关键帧,将隐藏层到输出层的运算分配给所述过渡层。
8.根据权利要求5所述的一种降低神经网络CPU峰值利用率的装置,其特征在于,待输入至神经网络中的特征向量序列中的关键帧之间间隔预定数量的过渡帧。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4任意一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-4任意一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于普强时代(珠海横琴)信息技术有限公司,未经普强时代(珠海横琴)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310236898.1/1.html,转载请声明来源钻瓜专利网。