[发明专利]机器学习算法选择方法、分布式计算系统在审
申请号: | 202110248656.5 | 申请日: | 2021-03-05 |
公开(公告)号: | CN112966438A | 公开(公告)日: | 2021-06-15 |
发明(设计)人: | 任文龙;倪煜 | 申请(专利权)人: | 北京金山云网络技术有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N20/00;G06F9/50 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 卢万腾;石鸣宇 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 机器 学习 算法 选择 方法 分布式 计算 系统 | ||
1.一种机器学习算法选择方法,其特征在于,应用于分布式计算系统,所述分布式计算系统至少包括Master节点、多个计算节点,所述机器学习算法选择方法包括:
所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,以及向N个所述目标计算节点发送机器学习模型训练任务,其中,所述Master节点向不同的目标计算节点发送的所述机器学习模型训练任务对应的机器学习算法不同,所述N为大于1的自然数;
所述目标计算节点执行接收到的所述机器学习模型训练任务,以及确定训练得到的机器学习模型的模型评价指标值,将所述模型评价指标值发送给所述Master节点;
所述Master节点根据接收到的所述模型评价指标值展示所述机器学习算法选择任务的执行结果。
2.根据权利要求1所述的方法,其特征在于,所述分布式计算系统还包括:数据读取节点,所述方法还包括:
所述Master节点在接收到所述机器学习算法选择任务后,向所述数据读取节点发送所述机器学习算法选择任务对应的数据集;
所述目标计算节点在接收到所述机器学习模型训练任务后,从所述数据读取节点获取所述数据集,以基于所述数据集执行接收到的所述机器学习模型训练任务。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
所述数据读取节点在接收到所述数据集后,将所述数据集划分为训练数据集和测试数据集;
所述目标计算节点在从所述数据读取节点获取到所述数据集后,基于所述训练数据集执行接收到的所述机器学习模型训练任务,以及基于所述测试数据集确定训练得到的机器学习模型的模型评价指标值。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述数据读取节点按照设定的分批规则将所述训练数据集和测试数据集分别进行分批存储,以在所述目标计算节点从所述数据读取节点获取所述数据集时,将所述训练数据集和测试数据集分批发送给所述目标计算节点。
5.根据权利要求1所述的方法,其特征在于,所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,包括:
所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用且当前处于空闲状态的目标计算节点;
所述方法还包括:
所述Master节点在从多个所述计算节点中确定N个可用且当前处于空闲状态的目标计算节点之后,将本地记录的所述目标计算节点的工作状态从空闲状态更新为激活状态;
所述Master节点在接收到所述目标计算节点发送的用于指示工作状态由激活状态切换为空闲状态的指示消息之后,将本地记录的所述目标计算节点的工作状态从激活状态更新为空闲状态。
6.一种分布式计算系统,其特征在于,所述分布式计算系统至少包括Master节点、多个计算节点;
所述Master节点,在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,以及向N个所述目标计算节点发送机器学习模型训练任务,其中,所述Master节点向不同的目标计算节点发送的所述机器学习模型训练任务对应的机器学习算法不同,所述N为大于1的自然数;
所述目标计算节点,执行接收到的所述机器学习模型训练任务,以及确定训练得到的机器学习模型的模型评价指标值,将所述模型评价指标值发送给所述Master节点;
所述Master节点,根据接收到的所述模型评价指标值展示所述机器学习算法选择任务的执行结果。
7.根据权利要求6所述的系统,其特征在于,所述分布式计算系统还包括:数据读取节点;
所述Master节点,在接收到所述机器学习算法选择任务后,向所述数据读取节点发送所述机器学习算法选择任务对应的数据集;
所述目标计算节点,在接收到所述机器学习模型训练任务后,从所述数据读取节点获取所述数据集,以基于所述数据集执行接收到的所述机器学习模型训练任务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110248656.5/1.html,转载请声明来源钻瓜专利网。