[发明专利]一种选择融合模型权重参数的方法、装置及设备在审
申请号: | 201911215119.X | 申请日: | 2019-12-02 |
公开(公告)号: | CN111126617A | 公开(公告)日: | 2020-05-08 |
发明(设计)人: | 张延凤 | 申请(专利权)人: | 东软集团股份有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N3/04;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 柳欣 |
地址: | 110179 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 选择 融合 模型 权重 参数 方法 装置 设备 | ||
本申请实施例公开了一种选择融合模型权重参数的方法、装置及设备,首先构建初始融合模型,初始融合模型包括N个神经网络模型,每个神经网络模型对应模型权重。从构建的融合模型中,选择第一模型权重组合以构建待验证融合模型,并获取各个待验证融合模型的验证结果,第一模型权重组合包括第1个至第N‑1个模型权重。再根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,第二模型权重组合包括第1个至第N个模型权重。当确定出第二模型权重组合后,根据各个待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合以确定一组目标模型权重,利用该目标模型权重生成对应的目标融合模型,从而提高模型融合效率。
技术领域
本申请涉及自动化机器学习领域,具体涉及一种选择融合模型权重参数的方法、装置及设备。
背景技术
随着自动化机器学习技术的不断发展,其已经成为人工智能研究方向的一个重要分支。自动化机器学习的过程为不断调整模型(例如,神经网络模型等)的超参数,尝试更多超参数对应的机器学习模型,以获得更符合要求的模型。然而,自动化机器学习所选择的模型通常不是一个固定的模型,而是采取融合的方式对多个模型进行融合,以获得最后的模型组合。
而在模型融合过程中,通常可以将每个模型对应的模型权重作为超参数,采用超参搜索方式搜索所融合的每个模型对应的模型权重,进而根据每个模型的模型权重进行模型融合。然而,此种搜索方式在模型个数较少时比较便捷,当所融合的模型数量较多时,会带来较大的计算量,导致模型融合效率较低。
发明内容
有鉴于此,本申请实施例提供一种选择融合模型权重参数的方法、装置及设备,以减少计算量,提高模型融合效率。
为解决上述问题,本申请实施例提供的技术方案如下:
一种选择融合模型权重参数的方法,所述方法包括:
构建初始融合模型,所述初始融合模型包括N个神经网络模型,每个所述神经网络模型对应有模型权重,N为正整数;
选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,所述第一模型权重组合包括第1个至第N-1个模型权重;
根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,所述第二模型权重组合包括第1个至第N个模型权重;
根据所述m组满足预设条件的第二模型权重组合,确定一组目标模型权重,所述目标模型权重包括第1个至第N个模型权重;
利用所述目标模型权重生成对应的目标融合模型。
在一种可能的实现方式中,所述选择第一模型权重组合以构建待验证融合模型,并获取各个所述待验证融合模型的验证结果,包括:
选择一组第一模型权重组合;
根据所述第一模型权重组合包括的第1个至第N-1个模型权重之和,计算对应的第N个模型权重,将第1个至第N个模型权重组成第二模型权重组合;
利用所述第二模型权重组合生成待验证融合模型,利用验证数据集对所述待验证融合模型进行验证,得到所述待验证融合模型的验证结果;
重新执行所述选择一组第一模型权重组合以及后续步骤,直到达到停止条件。
在一种可能的实现方式中,所述根据各个所述待验证融合模型的验证结果,获得m组满足预设条件的第二模型权重组合,包括:
选择所述验证结果满足预设条件的m个待验证融合模型,得到所述m个待验证融合模型分别对应的第二模型权重组合,获得m组满足预设条件的第二模型权重组合。
在一种可能的实现方式中,所述选择所述验证结果满足预设条件的m个待验证融合模型,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911215119.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种钻机
- 下一篇:一种电力设备铭牌印文识别方法及系统