[发明专利]基于Spark集群的模型训练方法、装置、设备及存储介质在审
申请号: | 202010146420.6 | 申请日: | 2020-03-04 |
公开(公告)号: | CN111368998A | 公开(公告)日: | 2020-07-03 |
发明(设计)人: | 王达;刘博;郑文琛;杨强 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06F9/50;G06F16/182 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 杨雪梅 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Spark集群的模型训练方法,包括:获取训练样本;通过深度神经子网络生成器生成多个候选子网络,并基于训练样本,通过Spark集群中的多个第一弹性分布式数据集以及各个候选子网络,确定各个候选子网络对应的训练误差;基于各个训练误差,在各个候选子网络中确定最优子网络,并基于最优子网络以及主网络确定目标模型。本发明还公开了一种基于Spark集群的模型训练装置、设备及存储介质。本发明实现了在Spark集群中通过弹性分布式数据集进行模型训练,进而无需通过GPU服务器进行模型训练,还能够根据不同的训练样本实现不同网络模型的智能训练和优化,降低了模型训练与调优的工作量,提高了网络模型的训练效率。 | ||
搜索关键词: | 基于 spark 集群 模型 训练 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010146420.6/,转载请声明来源钻瓜专利网。