[发明专利]用于获取目标网络的方法及装置有效
申请号: | 202010112531.5 | 申请日: | 2020-02-24 |
公开(公告)号: | CN111278085B | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | H04W48/16 | 分类号: | H04W48/16;H04L43/16 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 获取 目标 网络 方法 装置 | ||
本公开的实施例公开了用于获取目标网络的方法及装置。该方法的一具体实施方式包括:首先获取待处理网络和上述待处理网络的网络结构参数;然后查询上述待处理网络中的、与基准网络结构相对应的至少一个目标初始网络结构的目标初始分布参数;之后基于上述目标初始分布参数和基准网络结构对上述待处理网络进行迭代操作,并计算迭代后的待处理网络中、上述至少一个目标初始网络结构的更新目标分布参数;最后在上述迭代操作的达到设定的迭代次数,或上述更新目标分布参数对应的当前相对熵小于等于设定阈值时,将上述迭代操作后的待处理网络标记为目标网络。该实施方式提高了目标网络的适应性,减少了目标网络占用设备的内存空间。
技术领域
本公开的实施例涉及计算机技术领域,具体涉及用于获取目标网络的方法及装置。
背景技术
为了适应多种网络结构的需要,可以通过NAS(Neural Architecture Search,神经网络架构搜索技术)训练得到超网络。即,超网络包含多种网络结构,可以适用于多种不同的网络结构应用,实现了网络结构的共享。
发明内容
本公开的实施例提出了用于获取目标网络的方法及装置。
第一方面,本公开的实施例提供了一种用于获取目标网络的方法,该方法包括:获取待处理网络和上述待处理网络的网络结构参数,上述网络结构参数包含上述待处理网络包含的至少一个初始网络结构中每个初始网络结构的初始分布参数;查询上述待处理网络中的、与基准网络结构相对应的至少一个目标初始网络结构的目标初始分布参数;基于上述目标初始分布参数和基准网络结构对上述待处理网络进行迭代操作,并计算迭代后的待处理网络中、上述至少一个目标初始网络结构的更新目标分布参数;响应于上述迭代操作的达到设定的迭代次数,或上述更新目标分布参数对应的当前相对熵小于等于设定阈值,将上述迭代操作后的待处理网络标记为目标网络,其中,上述当前相对熵用于表征更新目标分布参数与上述基准网络结构之间的差异度。
在一些实施例中,上述基于上述目标初始分布参数和基准网络结构对上述待处理网络进行迭代操作,包括:确定上述目标初始网络结构与上述基准网络结构的初始网络差异结构;基于上述初始网络差异结构对上述待处理网络进行迭代操作,得到迭代后的待处理网络。
在一些实施例中,上述基于上述初始网络差异结构对上述待处理网络进行迭代操作,包括:基于上述初始网络差异结构设置上述待处理网络的反馈参数,并根据上述反馈参数对上述待处理网络进行迭代操作。
在一些实施例中,上述计算迭代后的待处理网络中、上述至少一个目标初始网络结构的更新目标分布参数,包括:查询上述迭代后的待处理网络中的、与上述基准网络结构对应的至少一个更新目标初始网络结构;计算上述至少一个更新目标初始网络结构在上述迭代后的待处理网络中的更新目标分布参数。
在一些实施例中,上述方法还包括:根据上述更新目标分布参数确定上述至少一个目标初始网络结构与上述基准网络结构之间的差异度,得到当前相对熵。
第二方面,本公开的实施例提供了一种用于获取目标网络的装置,该装置包括:数据获取单元,被配置成获取待处理网络和上述待处理网络的网络结构参数,上述网络结构参数包含上述待处理网络包含的至少一个初始网络结构中每个初始网络结构的初始分布参数;参数查询单元,被配置成查询上述待处理网络中的、与基准网络结构相对应的至少一个目标初始网络结构的目标初始分布参数;更新参数获取单元,被配置成基于上述目标初始分布参数和基准网络结构对上述待处理网络进行迭代操作,并计算迭代后的待处理网络中、上述至少一个目标初始网络结构的更新目标分布参数;目标网络标记单元,响应于上述迭代操作的达到设定的迭代次数,或上述更新目标分布参数对应的当前相对熵小于等于设定阈值,被配置成将上述迭代操作后的待处理网络标记为目标网络,其中,上述当前相对熵用于表征更新目标分布参数与上述基准网络结构之间的差异度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010112531.5/2.html,转载请声明来源钻瓜专利网。