[发明专利]基于人工智能的模型训练方法、系统、设备及存储介质在审
申请号: | 202210702558.9 | 申请日: | 2022-06-21 |
公开(公告)号: | CN114781653A | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 李泽远;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62;H04L67/01 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 张美君 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 人工智能 模型 训练 方法 系统 设备 存储 介质 | ||
1.一种基于人工智能的模型训练方法,其特征在于,包括:
多个客户端根据本地数据集更新服务器发送的全局模型得到客户端更新模型,并将模型更新时间发送至所述服务器,并向所述服务器发送模型上传请求;
所述服务器基于余弦退火算法根据所述客户端发送的模型更新时间确定聚合等待时长,将在所述聚合等待时长内接收到的所述模型上传请求所对应的所述客户端,记录为目标客户端;
所述服务器通知所述目标客户端发送所述客户端更新模型,并在接收多个所述目标客户端发送的所述客户端更新模型后,聚合接收到的所述客户端更新模型得到新的所述全局模型;
在新的所述全局模型未满足收敛条件时,所述服务器继续将新的所述全局模型发送至多个所述客户端,并根据所述客户端的返回结果迭代更新所述全局模型,直至迭代更新后的所述全局模型满足所述收敛条件时,将满足所述收敛条件的所述全局模型输出为目标模型。
2.如权利要求1所述的基于人工智能的模型训练方法,其特征在于,所述向所述服务器发送模型上传请求之前,所述方法还包括:
所述客户端对当前训练轮次的所述客户端更新模型的性能进行评估,得到所述客户端更新模型的性能评估结果;
所述客户端根据所述性能评估结果确定所述客户端更新模型的性能是否优于历史客户端模型的性能,所述历史客户端模型包括所述客户端的本地模型和历史训练轮次训练得到的所述客户端更新模型;
若所述客户端更新模型的性能优于所述历史客户端模型的性能,则所述客户端向所述服务器发送所述模型上传请求。
3.如权利要求2所述的基于人工智能的模型训练方法,其特征在于,所述根据所述性能评估结果确定所述客户端更新模型的性能是否优于历史客户端模型的性能之后,所述方法还包括:
若所述客户端更新模型的性能未优于所述历史客户端模型的性能,则所述客户端向所述服务器发送当前训练轮次的跳过请求,以通知所述服务器不参与当前训练轮次的模型聚合。
4.如权利要求3所述的基于人工智能的模型训练方法,其特征在于,所述向所述服务器发送当前训练轮次的跳过请求之前,所述方法还包括:
所述客户端确定是否连续预设次数未将更新得到的所述客户端更新模型发送至所述服务器;
若所述客户端没有连续预设次数未将更新得到的所述客户端更新模型发送至所述服务器,则所述客户端向所述服务器发送当前训练轮次的所述跳过请求;
若所述客户端连续预设次数未将更新得到的所述客户端更新模型发送至所述服务器,则所述客户端向所述服务器发送所述模型上传请求。
5.如权利要求1-4任一项所述的基于人工智能的模型训练方法,其特征在于,所述基于余弦退火算法根据所述客户端发送的模型更新时间确定聚合等待时长,包括:
所述服务器确定当前训练轮次,并基于余弦退火算法根据当前训练轮次计算得到当前训练轮次的接收比例;
所述服务器确定参与训练的所述客户端的总数量,并根据当前训练轮次的所述接收比例和所述客户端的总数量计算得到当前训练轮次的接收数量;
所述服务器在当前训练轮次中,确定接收到第一个所述模型更新时间时,至接收到所述接收数量的所述模型更新时间之间的时长,作为当前训练轮次的所述聚合等待时长。
6.如权利要求5所述的基于人工智能的模型训练方法,其特征在于,所述基于余弦退火算法根据当前训练轮次计算得到当前训练轮次的接收比例,包括:
所述服务器确定当前训练轮次是否为第一训练轮次;
若当前训练轮次为所述第一训练轮次,则所述服务器获取预先配置的初始接收比例,作为所述第一训练轮次的所述接收比例;
若当前训练轮次不为所述第一训练轮次,则所述服务器确定当前训练轮次在余弦退火周期内的模型聚合轮次,并根据所述模型聚合轮次计算得到当前训练轮次的所述接收比例。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210702558.9/1.html,转载请声明来源钻瓜专利网。