[发明专利]模型参数融合方法及装置

摘要

本发明实施例提供一种模型参数融合方法及装置，应用于机器学习系统，机器学习系统包括至少一个参数收集组和至少一个参数分发组，每个参数收集组对应至少一个参数分发组，涉及机器学习领域，用于解决模型参数融合中对参数服务器性能要求高、数据传输量大和动态调整计算资源的问题。该方法包括：在任一参数收集组满足组内融合条件时，融合参数收集组中M个节点的模型参数，得到该参数收集组的第一模型参数，其中，参数收集组最低融合节点数s≤M≤参数收集组包含节点的总个数；向参数收集组对应的参数分发组中的N个节点发送参数收集组的第一模型参数，其中，1≤N≤参数收集组对应的参数分发组包含节点的总个数。

主权项

1.一种模型参数融合方法，其特征在于，所述方法应用于机器学习系统，所述机器学习系统包括至少一个参数收集组和至少一个参数分发组，每个参数收集组对应至少一个参数分发组，每个参数收集组中包含至少一个节点，每个参数分发组中包含至少一个节点，至少有一个所述参数收集组包含的节点与所对应的参数分发组包含的节点不相同，所述方法包括：在任一参数收集组满足组内融合条件时，融合所述满足条件的参数收集组中M个节点的模型参数，得到所述满足条件的参数收集组的第一模型参数，其中，所述满足条件的参数收集组最低融合节点数s≤所述M≤所述满足条件的参数收集组包含节点的总个数；向所述满足条件的参数收集组对应的参数分发组中的N个节点发送所述满足条件的参数收集组的所述第一模型参数，其中，1≤所述N≤所述满足条件的参数收集组对应的参数分发组包含节点的总个数。