[发明专利]服务模型的加载方法、系统、电子设备及存储介质

摘要

本申请公开了一种服务模型的加载方法和系统，该方法包括：在模型管理层响应模型推送请求，通知目标模型服务器加载该请求中的模型块数据，待加载该模型块数据成功之后，在目标模型服务器保存该请求中的模型名称、地域信息以及该模型块数据之间的第一映射关系，在模型管理层记录该目标模型服务器与该模型名称、地域信息之间的第二映射关系并下发至路由层；路由层根据该第二映射关系确定模型计算请求对应的目标模型服务器，并将该服务器的地址发送至客户端；该目标模型服务器响应该模型计算请求，利用该第一映射关系向该客户端提供目标模型服务。本发明能够按照地域加载模型数据并提供相应地域的模型服务，缩短了模型加载时长。

主权项

1.一种服务模型的加载方法，其特征在于，所述方法包括：/n在模型管理层接收模型推送请求，其中，所述模型推送请求包括地域信息、模型块数据、模型名称，其中，所述模型块数据为根据地域对具有所述模型名称的模型数据进行分块而生成的多个模型块数据中的一个模型块数据；/n在所述模型管理层响应于所述模型推送请求，通知目标模型服务器加载所述模型块数据；/n在所述目标模型服务器加载所述模型块数据，并在加载成功之后，在所述目标模型服务器保存所述模型名称与所述地域信息以及所述模型块数据之间的第一映射关系；/n在所述模型管理层接收来自所述目标模型服务器的表示对所述模型块数据加载成功的通知；/n在所述模型管理层记录所述目标模型服务器与所述模型名称、所述地域信息之间的第二映射关系，并在所述模型管理层发送所述第二映射关系至路由层；/n在所述路由层接收来自客户端的模型计算请求，所述模型计算请求包括：目标模型名称、所述客户端的定位信息；/n在所述路由层根据所述第二映射关系，确定与所述目标模型名称、所述定位信息对应的所述目标模型服务器；/n在所述路由层响应于所述模型计算请求，将所述目标模型服务器的地址信息发送至所述客户端；/n在所述目标模型服务器接收所述客户端的所述模型计算请求，在所述目标模型服务器响应于所述模型计算请求，根据所述第一映射关系向所述客户端提供目标模型服务。/n