[发明专利]用于生成神经网络的结构的方法和装置有效
申请号: | 202010300949.9 | 申请日: | 2020-04-16 |
公开(公告)号: | CN111539514B | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/0475 | 分类号: | G06N3/0475;G06N3/0464;G06N3/0455;G06N3/094;G06N3/084 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 生成 神经网络 结构 方法 装置 | ||
本公开的实施例公开了用于生成神经网络的结构的方法和装置,涉及人工智能领域。该方法包括:获取初始的性能反馈信息,执行如下搜索操作:根据预设的硬件延时约束信息、性能反馈信息和第一网络结构搜索空间确定第一目标神经网络的候选网络结构;根据性能反馈信息和第二网络结构搜索空间确定第二目标神经网络的候选网络结构;将第一目标神经网络和第二目标神经网络的候选网络结构分别作为生成器和判别器构建候选生成对抗网络并训练;响应于确定候选生成对抗网络的性能信息满足预设的条件或执行搜索操作的次数达到预设的次数阈值,确定候选生成对抗网络中的生成器为第一目标神经网络的目标结构。该方法可搜索出满足预设的硬件延时约束的网络结构。
技术领域
本公开的实施例涉及计算机技术领域,具体涉及人工智能技术领域,尤其涉及用于生成神经网络的结构的方法和装置。
背景技术
随着人工智能技术和数据存储技术的发展,深度神经网络在许多领域的任务中取得了重要的成果。其中,生成对抗网络可以产生更加清晰、真实的样本,可以广泛应用在图像处理、声音处理、文本生成、信息安全等场景中。
通常生成对抗网络中的生成器的结构较复杂,训练完成后运行生成器会产生较大的硬件延时,使得基于生成对抗网络训练得到的生成器不易应用在实时性较高的业务场景中。而包括生成对抗网络在内的各种深度神经网络的硬件延时与其网络结构具有密切的关系,改善网络结构可以有效地优化神经网络的硬件延时问题。
发明内容
本公开的实施例提供了用于生成神经网络的结构的方法和装置、电子设备以及计算机可读存储介质。
根据第一方面,提供了一种用于生成神经网络的结构的方法,包括:获取初始的性能反馈信息,并执行搜索操作;搜索操作包括:根据预设的硬件延时约束信息、性能反馈信息以及预设的第一网络结构搜索空间,确定预设的第一目标神经网络的候选网络结构;根据性能反馈信息和预设的第二网络结构搜索空间,确定预设的第二目标神经网络的候选网络结构;将第一目标神经网络的候选网络结构作为生成器,将第二目标神经网络的候选网络结构作为判别器,构建候选生成对抗网络,基于媒体数据样本对候选生成对抗网络进行训练,确定候选生成对抗网络的性能信息;响应于确定候选生成对抗网络的性能信息满足预设的条件或执行搜索操作的次数达到预设的次数阈值,确定候选生成对抗网络中的生成器为第一目标神经网络的目标结构。
根据第二方面,提供了一种用于生成神经网络的结构的装置,包括:获取单元,被配置为获取初始的性能反馈信息;搜索单元,被配置为执行搜索操作;搜索单元包括:第一生成单元,被配置为执行搜索操作中的以下步骤:根据预设的硬件延时约束信息、性能反馈信息以及预设的第一网络结构搜索空间,确定预设的第一目标神经网络的候选网络结构;第二生成单元,被配置为执行搜索操作中的以下步骤:根据预设的硬件延时约束信息、性能反馈信息以及预设的第一网络结构搜索空间,确定预设的第一目标神经网络的候选网络结构;训练单元,被配置为执行搜索操作中的以下步骤:将第一目标神经网络的候选网络结构作为生成器,将第二目标神经网络的候选网络结构作为判别器,构建候选生成对抗网络,基于媒体数据样本对候选生成对抗网络进行训练,确定候选生成对抗网络的性能信息;确定单元,被配置为执行搜索操作中的以下步骤:响应于确定候选生成对抗网络的性能信息满足预设的条件或执行搜索操作的次数达到预设的次数阈值,确定候选生成对抗网络中的生成器为第一目标神经网络的目标结构。
根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面提供的用于生成神经网络的结构的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行第一方面提供的用于生成神经网络的结构的方法。
根据本申请的技术实现了基于预设的硬件延时约束自动搜索生成对抗网络的结构,搜索出的生成对抗网络的结构能够满足该预设的硬件延时约束。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010300949.9/2.html,转载请声明来源钻瓜专利网。