[发明专利]模型部署的方法、装置、存储介质及电子设备

说明书

本公开涉及一种模型部署的方法、装置、存储介质及电子设备，可以通过模型管理服务器接收目标节点发送的模型部署请求消息，该模型部署请求消息用于请求部署目标模型集合中的多个目标模型；响应于接收到该模型部署请求消息，获取该目标模型集合中的多个该目标模型；将该目标模型集合中的该多个目标模型发送至该目标节点；当确定该目标模型集合中的每个该目标模型均成功被该目标节点接收后，向该目标节点发送模型装载指令，以便该目标节点根据该模型装载指令装载每个该目标模型；当确定该目标模型集合中的每个该目标模型均成功被该目标节点装载后，控制该目标节点将多个该目标模型作为当前应用模型。

技术领域

本公开涉及模型部署领域，具体地，涉及一种模型部署的方法、装置、存储介质及电子设备。

背景技术

随着机器学习技术的不断发展，机器学习模型(如决策树模型、深度神经网络模型等)广泛应用在各种业务场景中，如外卖配送业务场景，机器学习流程分为线下训练和线上预测阶段，在进行线上预测之前，需要将线下训练好的机器学习模型部署到执行模型计算的服务器各节点内存中，然后传入特征进行模型计算和实时预测。

在实际的应用场景中，存在一个业务(如配送时长预测业务)需要同时依赖多个模型(可以称之为模型集合)来实现的情况，分布式环境下，需要将该模型集合中的多个模型在每个要实现该业务的集群节点中进行部署，但是，相关技术中，模型集合中各个模型的在线部署流程都是相互独立的，无法保证同步执行，即无法保证模型集合中多个模型的最新版本同时部署成功，但若一个服务所依赖的多个模型的版本存在不一致的情况，会影响线上实时预测的结果，从而会加大业务效果的分析难度。

发明内容

本公开的目的是提供一种模型部署的方法、装置、存储介质及电子设备。

第一方面，提供一种模型部署的方法，应用于模型管理服务器，所述方法包括：接收目标节点发送的模型部署请求消息，所述模型部署请求消息用于请求部署目标模型集合中的多个目标模型；响应于接收到所述模型部署请求消息，获取所述目标模型集合中的多个所述目标模型；将所述目标模型集合中的所述多个目标模型发送至所述目标节点；当确定所述目标模型集合中的每个所述目标模型均成功被所述目标节点接收后，向所述目标节点发送模型装载指令，以便所述目标节点根据所述模型装载指令装载每个所述目标模型；当确定所述目标模型集合中的每个所述目标模型均成功被所述目标节点装载后，控制所述目标节点将多个所述目标模型作为当前应用模型。

可选地，所述方法还包括：若接收到所述目标节点发送的针对所述目标模型集合中的每个所述目标模型对应的目标处理事项的处理成功消息，则确定每个所述目标模型对应的目标处理事项均成功完成，所述目标处理事项包括接收该目标模型或者装载该目标模型；或者，若接收到所述目标节点发送的至少一个目标模型对应的所述目标处理事项的处理失败消息，则控制所述目标节点重新执行至少一个所述目标模型对应的目标处理事项，直至接收到所述目标节点发送的所述至少目标模型对应的目标处理事项的处理成功消息。

可选地，若所述目标处理事项为接收该目标模型，所述控制所述目标节点重新执行至少一个所述目标模型对应的目标处理事项包括：重新向所述目标节点发送所述至少一个目标模型；若所述目标处理事项为装载该目标模型，所述控制所述目标节点重新执行至少一个所述目标模型对应的目标处理事项包括：重新向所述目标节点发送对所述至少一个目标模型的模型装载指令。

可选地，所述方法还包括：若连续预设次数接收到所述目标节点发送的至少一个目标模型对应的所述目标处理事项的处理失败消息，确定所述目标模型集合中的全部所述目标模型在所述目标节点部署失败；或者，若在第一预设时间内连续接收到所述目标节点发送的至少一个目标模型对应的所述目标处理事项的处理失败消息，确定所述目标模型集合中的全部所述目标模型在所述目标节点部署失败。