[发明专利]深度学习模型训练方法、装置、计算机设备及存储介质有效
申请号: | 202010736381.5 | 申请日: | 2020-07-28 |
公开(公告)号: | CN111860840B | 公开(公告)日: | 2023-10-17 |
发明(设计)人: | 吕杨 | 申请(专利权)人: | 上海联影医疗科技股份有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/0455;G06N3/08 |
代理公司: | 杭州华进联浙知识产权代理有限公司 33250 | 代理人: | 单长芳 |
地址: | 201807 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 深度 学习 模型 训练 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及一种深度学习模型训练方法、装置、计算机设备及存储介质,其中该方法包括构建初始深度学习模型,初始深度学习模型的损失函数包括多个子损失函数,多个子损失函数中的至少一个与图像噪声抑制、图像边界保持以及图像结构相似性保持三个参数中的一个参数相关;将初始深度学习模型转化为具有多个同等结构的克隆模型,且每个克隆模型对应一个子损失函数;分别对每一克隆模型进行训练,得到多个训练完备的克隆模型;根据每一训练完备的克隆模型对应的权重系数,将多个训练完备的克隆模型的输出数据进行加权组合,得到训练完备的深度学习模型,解决了相关技术中子损失函数的权重难以确定以及复合损失函数模型使用灵活性较差的问题。
技术领域
本申请涉及人工智能技术领域,特别是涉及一种深度学习模型训练方法、装置、计算机设备及存储介质。
背景技术
在机器学习中,损失函数(loss function)是衡量深度学习模型的输出和目标结果之间差异的指标。机器学习算法以最小化损失函数为目标进行模型的训练。损失函数的选择依赖于参数数量、机器学习算法、梯度下降的效率、导数求取的难易等等。根据机器学习的任务的不同,损失函数有不同的设计。在图像处理中最常用的损失函数包括:均方误差,即L2损失,它定义为预测值与目标值之间差值的平方和;平均绝对误差,即L1损失,它定义为预测值与目标值之间差绝对值的和;结构相似性误差,即SSIM损失,它将图像的结构信息定义为独立于亮度、对比度的属性,并将失真建模为亮度、对比度和结构三个要素的组合。用均值作为亮度的估计,标准差作为对比度的估计,协方差作为结构相似程度的估计。
在实际的应用场景中,单个损失函数往往不能满足需求,研究者倾向于使用复合损失函数,复合损失函数由多个子损失函数组合而成。复合损失函数用多个指标对模型的输出做了约束,使结果更符合预期。但是,由于复合函数内部的子损失函数的权重系数往往难以确定,需要根据经验人为设定,且复合损失函数模型中子损失函数的权重一旦确定后,该复合损失函数模型只能针对固定场景使用,使用灵活性较差。
发明内容
本申请提供一种深度学习模型训练方法、装置、计算机设备及存储介质,以至少解决相关技术中子损失函数的权重难以确定以及复合损失函数模型使用灵活性较差的问题。
第一方面,本申请实施例提供了一种深度学习模型训练方法,所述方法包括:
构建初始深度学习模型,所述初始深度学习模型的损失函数包括多个子损失函数,所述多个子损失函数中的至少一个与图像噪声抑制、图像边界保持以及图像结构相似性保持三个参数中的一个参数相关;
将所述初始深度学习模型转化为具有多个同等结构的克隆模型,且每个所述克隆模型对应一个所述子损失函数;
分别对每一所述克隆模型进行训练,得到多个训练完备的克隆模型;
根据每一训练完备的所述克隆模型对应的权重系数,将多个训练完备的所述克隆模型的输出数据进行加权组合,得到训练完备的深度学习模型。
在其中一些实施例中,所述分别对每一所述克隆模型进行训练,得到多个训练完备的克隆模型包括:
将训练样本分别输入至每一所述克隆模型;
通过误差反向传播更新每一所述克隆模型的参数,直至误差收敛,得到多个训练完备的克隆模型。
在其中一些实施例中,多个训练完备的所述克隆模型对应的权重系数之和为1。
在其中一些实施例中,所述方法还包括:
根据所述子损失函数的类型,对至少一个训练完备的所述克隆模型对应的所述权重系数进行调整,改变训练完备的深度学习模型的输出结果。
在其中一些实施例中,所述根据所述子损失函数的类型,对至少一个训练完备的所述克隆模型对应的权重系数进行调整,改变训练完备的深度学习模型的输出结果包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海联影医疗科技股份有限公司,未经上海联影医疗科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010736381.5/2.html,转载请声明来源钻瓜专利网。