[发明专利]神经网络结构优化方法和装置、电子设备有效
申请号: | 202010830807.3 | 申请日: | 2020-08-18 |
公开(公告)号: | CN112149797B | 公开(公告)日: | 2023-01-03 |
发明(设计)人: | 邓宇帆 | 申请(专利权)人: | OPPO(重庆)智能科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 毛丹 |
地址: | 401120 重庆*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 结构 优化 方法 装置 电子设备 | ||
本申请涉及一种神经网络结构优化方法,包括:获取当前结构优化网络输出的网络结构信息,调整核心神经网络的网络结构得到更新后的核心神经网络;训练更新后的核心神经网络直到达到收敛条件,得到已训练的核心神经网络;获取已训练的核心神经网络对应的评价指标参数,计算得到当前结构优化网络的损失函数值;基于损失函数值调整当前结构优化网络的网络参数得到更新的结构优化网络,将更新的结构优化网络作为当前结构优化网络,将网络结构信息作为当前结构优化网络的输入,返回获取当前结构优化网络输出的网络结构信息的步骤,直至结构优化网络满足收敛条件;通过输出的网络结构信息确定核心神经网络的目标网络结构,提高神经网络的处理效率。
技术领域
本申请涉及计算机技术领域,特别是涉及一种神经网络结构优化、神经网络训练方法和装置、电子设备以及计算机可读存储介质。
背景技术
神经网络在人脸识别、语音识别、影像处理等多方面有出色效果,但另一方面,神经网络往往需要庞大的计算资源,限制了在移动端的应用。为此开发了一系列降低神经网络运算量的技术,如优化神经网络结构,优化神经网络训练速度,从而降低神经网络的运算复杂度。
传统的神经网络处理方法,如神经网络结构优化的方法和神经网络训练方法,往往存在处理效率低的问题。
发明内容
本申请实施例提供一种神经网络结构优化、神经网络训练方法和装置、电子设备以及计算机可读存储介质,提高神经网络的处理效率。
一种神经网络结构优化方法,包括:
获取当前结构优化网络输出的网络结构信息;
根据所述网络结构信息调整核心神经网络的网络结构得到更新后的核心神经网络;
训练所述更新后的核心神经网络直到达到收敛条件,得到已训练的核心神经网络;
获取所述已训练的核心神经网络对应的评价指标参数;
根据所述评价指标参数计算得到所述当前结构优化网络的损失函数值;
基于所述损失函数值调整所述当前结构优化网络的网络参数得到更新的结构优化网络,将所述更新的结构优化网络作为所述当前结构优化网络,将所述网络结构信息作为所述当前结构优化网络的输入,返回所述获取当前结构优化网络输出的网络结构信息的步骤,直至结构优化网络满足收敛条件;
通过满足收敛条件的结构优化网络输出的网络结构信息确定核心神经网络的目标网络结构。
一种神经网络结构优化装置,包括:
获取模块,用于获取当前结构优化网络输出的网络结构信息;
核心神经网络结构调整模块,用于根据所述网络结构信息调整核心神经网络的网络结构得到更新后的核心神经网络;
核心神经网络训练模块,用于训练所述更新后的核心神经网络直到达到收敛条件,得到已训练的核心神经网络;
结构优化网络损失计算模块,用于获取所述已训练的核心神经网络对应的评价指标参数,根据所述评价指标参数计算得到所述当前结构优化网络的损失函数值;
结构优化网络调整模块,用于基于所述损失函数值调整所述当前结构优化网络的网络参数得到更新的结构优化网络,将所述更新的结构优化网络作为所述当前结构优化网络,将所述网络结构信息作为所述当前结构优化网络的输入,返回所述获取模块,直至结构优化网络满足收敛条件;
网络结构确定模块,用于通过满足收敛条件的结构优化网络输出的网络结构信息确定核心神经网络的目标网络结构。
一种电子设备,包括存储器以及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于OPPO(重庆)智能科技有限公司,未经OPPO(重庆)智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010830807.3/2.html,转载请声明来源钻瓜专利网。