[发明专利]服务模型的加载方法、系统、电子设备及存储介质

权利要求书

1.一种服务模型的加载方法，其特征在于，所述方法包括：

在模型管理层接收模型推送请求，其中，所述模型推送请求包括地域信息、模型块数据、模型名称，其中，所述模型块数据为根据地域对具有所述模型名称的模型数据进行分块而生成的多个模型块数据中的一个模型块数据；

在所述模型管理层响应于所述模型推送请求，通知目标模型服务器加载所述模型块数据；

在所述目标模型服务器加载所述模型块数据，并在加载成功之后，在所述目标模型服务器保存所述模型名称与所述地域信息以及所述模型块数据之间的第一映射关系；

在所述模型管理层接收来自所述目标模型服务器的表示对所述模型块数据加载成功的通知；

在所述模型管理层记录所述目标模型服务器与所述模型名称、所述地域信息之间的第二映射关系，并在所述模型管理层发送所述第二映射关系至路由层；

在所述路由层接收来自客户端的模型计算请求，所述模型计算请求包括：目标模型名称、所述客户端的定位信息；

在所述路由层根据所述第二映射关系，确定与所述目标模型名称、所述定位信息对应的所述目标模型服务器；

在所述路由层响应于所述模型计算请求，将所述目标模型服务器的地址信息发送至所述客户端；

在所述目标模型服务器接收所述客户端的所述模型计算请求，在所述目标模型服务器响应于所述模型计算请求，根据所述第一映射关系向所述客户端提供目标模型服务；

其中，所述模型管理层包括：基于RPC框架开发的软件模块。

2.根据权利要求1所述的方法，其特征在于，所述模型推送请求还包括：所述模型块数据需要承载的每秒请求数；

在所述模型管理层响应于所述模型推送请求，通知目标模型服务器加载所述模型块数据，包括：

在所述模型管理层获取可用模型服务器的运行参数；

在所述模型管理层根据所述运行参数和所述每秒请求数，从所述可用模型服务器中选择一个目标模型服务器；

在所述模型管理层响应于所述模型推送请求，通知目标模型服务器加载所述模型块数据。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在所述路由层定期从所述模型管理层拉取记录的所述第二映射关系；

在所述路由层将所述第二映射关系存储至所述路由层。

4.根据权利要求1所述的方法，其特征在于，所述在所述路由层根据所述第二映射关系，确定与所述目标模型名称、所述定位信息对应的所述目标模型服务器，包括：

在所述路由层根据所述第二映射关系查找与所述目标模型名称、所述定位信息对应的至少一个模型服务器；

在所述路由层从所述至少一个模型服务器中选取所述目标模型服务器。

5.根据权利要求1所述的方法，其特征在于，所述在所述目标模型服务器响应于所述模型计算请求，根据所述第一映射关系向所述客户端提供目标模型服务，包括：

在所述目标模型服务器响应于所述模型计算请求，根据所述第一映射关系查找与所述目标模型名称、所述定位信息对应的目标模型块数据；

在所述目标模型服务器根据所述目标模型块数据对所述模型计算请求进行计算，生成计算结果；

在所述目标模型服务器响应于所述模型计算请求，将所述计算结果发送至所述客户端。