[发明专利]基于神经网络模型的处理方法、装置、设备和存储介质

权利要求书

1.一种基于神经网络模型的处理方法，其特征在于，所述方法包括：

接收用户终端发送的针对目标神经网络模型的加载请求，获取所述加载请求中携带的所述目标神经网络模型的目标模型类型和版本信息；

从系统框架和基于所述系统框架运行的多个第三方神经网络框架中，确定与所述模型类型对应的目标框架；所述目标框架中部署至少一个神经网络模型；

调用所述目标框架的加载接口，以基于所述加载接口加载符合所述版本信息的目标神经网络模型；

若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文；

向所述用户终端返回所述回复报文。

2.根据权利要求1所述的方法，其特征在于，所述若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文包括：

在所述目标框架为系统框架的情况下，若接收到针对加载后的所述目标神经网络模型的处理请求，则通过加载后的所述目标神经网络模型所提供的接口对所述处理请求进行处理，得到符合预设格式规范的处理结果；

基于所述处理结果生成回复报文。

3.根据权利要求1所述的方法，其特征在于，所述若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文包括：

在所述目标框架为第三方神经网络框架的情况下，若接收到针对加载后的所述目标神经网络模型的处理请求，则以所述第三方神经网络框架所要求的接口规范将所述处理请求转换为第三方处理请求；

通过所述第三方神经网络框架所提供的接口处理所述第三方处理请求，生成符合所述第三方神经网络框架的输出格式的第三方处理结果；

对所述第三方处理结果按照预设的转换规则进行转换，生成符合预设格式规范的回复报文。

4.根据权利要求3所述的方法，其特征在于，所述处理请求为计算请求；所述第三方处理请求为第三方计算请求；所述第三方处理结果为第三方计算结果；

所述通过所述第三方神经网络框架所提供的接口处理所述第三方处理请求，生成符合所述第三方神经网络框架的输出格式的第三方处理结果包括：

从所述第三方计算请求中获取用于计算的输入数据；

按照所述第三方神经网络框架所要求的接口规范，将所述输入数据输入到所述第三方神经网络框架所提供的计算接口中，触发加载后的所述目标神经网络模型进行计算，生成符合所述第三方神经网络框架的输出格式的第三方计算结果。

5.根据权利要求3所述的方法，其特征在于，所述处理请求为训练请求；所述第三方处理请求为第三方训练请求；所述第三方处理结果为第三方训练结果；

所述通过所述第三方神经网络框架所提供的接口处理所述第三方处理请求，生成符合所述第三方神经网络框架的输出格式的第三方处理结果包括：

基于所述训练请求获取训练数据；

按照所述第三方神经网络框架所要求的接口规范，将所述训练数据输入到所述第三方神经网络框架所提供的训练接口中，触发对加载后的所述目标神经网络模型进行模型训练，生成符合所述第三方神经网络框架的格式规范的第三方训练结果。

6.根据权利要求1至5中任一项所述的方法，其特征在于，所述第三方神经网络框架中部署所述第三方神经网络框架支持的至少一种第一神经网络模型；所述系统框架中部署第二神经网络模型；所述第二神经网络模型所属的模型类型，是所述第三方神经网络框架不支持的模型类型；

所述从系统框架和基于所述系统框架运行的多个第三方神经网络框架中，确定与所述模型类型对应的目标框架包括：

确定与每个所述第三方神经网络框架相关联的第一模型类型集合；

确定与系统框架相关联的第二模型类型集合；

从所述第一模型类型集合和多个所述第二模型类型集合中，确定所述目标模型类型所属的模型类型集合；所述所属的模型类型集合为所述第一模型类型集合和多个所述第二模型类型集合中的其中一种；

将所述所属的模型类型集合所对应的框架，确定为目标框架。