[发明专利]深度学习模型的训练方法、装置和计算机可读存储介质有效

专利信息
申请号: 201811521621.9 申请日: 2018-12-13
公开(公告)号: CN111325223B 公开(公告)日: 2023-10-24
发明(设计)人: 李旭锟;张信豪;杜鹏;邹洪亮;李明;任新新;汪庆寿 申请(专利权)人: 中国电信股份有限公司
主分类号: G06V10/774 分类号: G06V10/774;G06V10/82;G06N3/08;G06N3/084
代理公司: 中国贸促会专利商标事务所有限公司 11038 代理人: 孙玉
地址: 100033 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 深度 学习 模型 训练 方法 装置 计算机 可读 存储 介质
【说明书】:

本公开涉及一种深度学习模型的训练方法、装置和计算机可读存储介质,涉及计算机技术领域。本公开的方法包括:将训练样本输入待训练的深度学习模型,训练样本包括:锚样本、正样本和负样本;根据输出的训练样本的特征与对应的类中心的特征的距离,锚样本的特征与对应的正样本的特征的距离,以及锚样本的特征与对应的负样本的特征的距离,确定损失函数值;根据损失函数值对待训练的深度学习模型的参数进行调整,以便完成对待训练的深度学习模型的训练。本公开的方案加快了训练的收敛速度,提高训练效率。

技术领域

本公开涉及计算机技术领域,特别涉及一种深度学习模型的训练方法、装置和计算机可读存储介质。

背景技术

近几年深度学习在安防、教育、医疗健康、金融等领域取得了突破性的进展,例如语音识别、图像识别等等。可以说到目前为止,深度学习是最接近人类大脑的智能学习方法。但是深度学习模型参数多,计算量大,训练数据的规模也更大,在一些项目中,往往需要训练几个月甚至更长,这大大降低了训练的效率,因此如何加快训练速度也是深度学习中一个亟待解决的问题。

图像识别、人脸识别等是目前研究热度很高的领域,大多图像识别、人脸识别模型都应用了深度学习技术。在深度学习模型的训练过程中,常用的损失函数有Triplet Loss(三元组损失)。将训练样本输入深度学习模型,通过计算Triplet Loss调整模型的参数,完成模型的训练。

发明内容

发明人发现:采用Triplet Loss对深度学习模型进行实际训练时,收敛速度不快,训练效率较低。

本公开所要解决的一个技术问题是:提高深度学习模型的训练效率。

根据本公开的一些实施例,提供的一种深度学习模型的训练方法,包括:将训练样本输入待训练的深度学习模型,训练样本包括:锚样本、正样本和负样本;根据输出的训练样本的特征与对应的类中心的特征的距离,锚样本的特征与对应的正样本的特征的距离,以及锚样本的特征与对应的负样本的特征的距离,确定损失函数值;根据损失函数值对待训练的深度学习模型的参数进行调整,以便完成对待训练的深度学习模型的训练。

在一些实施例中,确定损失函数值的方法包括:根据输出的训练样本的特征与对应的类中心的特征的距离确定第一损失函数值;根据输出的锚样本的特征与对应的正样本的特征的距离,以及锚样本的特征与对应的负样本的特征的距离,确定第二损失函数值;将第一损失函数值与第二损失函数值的加权和确定为损失函数值。

在一些实施例中,确定损失函数值的方法还包括:计算当前训练周期的第一损失函数值与上一训练周期的第一损失函数值的差值;在差值超过预设范围内的情况下,将第一损失函数值与第二损失函数值的加权和确定为当前训练周期的损失函数值;或者,在差值在预设范围内的情况下,将第二损失函数值确定为当前训练周期的损失函数值。

在一些实施例中,确定损失函数值的方法包括:根据输出的训练样本的特征与对应的类中心的特征的距离确定第一损失函数值;根据输出的锚样本的特征与对应的正样本的特征的距离,以及锚样本的特征与对应的负样本的特征的距离,确定第二损失函数值;根据输出的类中心的特征与训练样本中心的特征的距离,确定第三损失函数值;将第一损失函数值、第二损失函数值与第三损失函数值的加权和确定为损失函数值。

在一些实施例中,确定损失函数值的方法还包括:计算当前训练周期的第一损失函数值与上一训练周期的第一损失函数值的差值;在差值超过预设范围内的情况下,将第一损失函数值、第二损失函数值与第三损失函数值的加权和确定为当前训练周期的损失函数值;或者,在差值在预设范围内的情况下,将第二损失函数值确定为当前训练周期的损失函数值。

在一些实施例中,第一损失函数值采用以下公式确定:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电信股份有限公司,未经中国电信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811521621.9/2.html,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top