[发明专利]基于神经网络模型的处理方法、装置、设备和存储介质

说明书

本申请涉及一种基于神经网络模型的处理方法、装置、设备和存储介质。该方法包括：接收用户终端发送的针对目标神经网络模型的加载请求，获取加载请求中携带的目标神经网络模型的目标模型类型和版本信息；从系统框架和基于系统框架运行的多个第三方神经网络框架中，确定与目标模型类型对应的目标框架；目标框架中部署至少一个神经网络模型；调用目标框架的加载接口，以基于加载接口加载符合版本信息的目标神经网络模型；若接收到针对加载后的目标神经网络模型的处理请求，则基于加载后的目标神经网络模型进行相应处理，生成符合预设定义规范的回复报文；向用户终端返回回复报文。采用本方法能够降低时间成本。

技术领域

本申请涉及神经网络技术领域，特别是涉及一种基于神经网络模型的处理方法、装置、设备和存储介质。

背景技术

随着神经网络相关技术的快速发展，神经网络模型种类越来越多，并且出现了多种可以加载神经网络模型的第三方神经网络框架。在对神经网络模型进行使用时，需要部署人员懂得如何部署第三方神经网络框架，需要用户懂得如何使用第三方神经网络框架。

但是，不同的第三方神经网络框架的部署方式不同，训练方式和计算方式也不同，用户需要花费很多时间来熟悉和对接不同的第三方神经网络框架，导致时间成本高。

发明内容

基于此，有必要针对上述技术问题，提供一种能够降低时间成本的基于神经网络模型的处理方法、装置、计算机设备、存储介质和计算机程序产品。

第一方面，本申请提供了一种基于神经网络模型的处理方法。所述方法包括：

接收用户终端发送的针对目标神经网络模型的加载请求，获取所述加载请求中携带的所述目标神经网络模型的目标模型类型和版本信息；

从系统框架和基于所述系统框架运行的多个第三方神经网络框架中，确定与所述模型类型对应的目标框架；所述目标框架中部署至少一个神经网络模型；

调用所述目标框架的加载接口，以基于所述加载接口加载符合所述版本信息的目标神经网络模型；

若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文；

向所述用户终端返回所述回复报文。

在其中一个实施例中，所述若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文包括：

在所述目标框架为系统框架的情况下，若接收到针对加载后的所述目标神经网络模型的处理请求，则通过加载后的所述目标神经网络模型所提供的接口对所述处理请求进行处理，得到符合预设格式规范的处理结果；

基于所述处理结果生成回复报文。

在其中一个实施例中，所述若接收到针对加载后的所述目标神经网络模型的处理请求，则基于加载后的所述目标神经网络模型进行相应处理，生成符合预设格式规范的回复报文包括：

在所述目标框架为第三方神经网络框架的情况下，若接收到针对加载后的所述目标神经网络模型的处理请求，则以所述第三方神经网络框架所要求的接口规范将所述处理请求转换为第三方处理请求；

通过所述第三方神经网络框架所提供的接口处理所述第三方处理请求，生成符合所述第三方神经网络框架的输出格式的第三方处理结果；

对所述第三方处理结果按照预设的转换规则进行转换，生成符合预设格式规范的回复报文。

在其中一个实施例中，所述处理请求为计算请求；所述第三方处理请求为第三方计算请求；所述第三方处理结果为第三方计算结果；