[发明专利]面向Android的深度学习模型统一部署系统、方法、设备及介质

权利要求书

1.一种面向Android的深度学习模型统一部署系统，其特征在于，包括：

监控统计模块，用于完成对整个系统执行的监控统计以及日志读写；

抽象适配模块，用于提供深度学习推断过程所需要的解释器、模型和/或数据源；

服务模块，用于对Android应用程序提供统一的编程接口。

2.根据权利要求1所述的系统，其特征在于，所述抽象适配模块具体包括：

第一子模块，用于为不同的底层深度学习框架适配一个对应的具体解释器单例；

第二子模块，用于为不同的模型文件，创建模型实例，并初始化所述模型实例的相关元数据；

第三子模块，用于为不同类型的数据输入，适配一个具体的数据源实例。

3.根据权利要求1所述的系统，其特征在于，所述服务模块具体用于：

调用所述抽象适配模块所适配的底层解释器完成任务的执行，同时调用所述监控统计模块保存相应的统计数据。

4.一种面向Android的深度学习模型统一部署方法，应用于如权利要求1～3任一项中所述的面向Android的深度学习模型统一部署系统，其特征在于，包括：

初始化统一部署系统；

构建推断任务并执行所述推断任务得到执行结果；

获取任务执行统计数据；

关闭所述统一部署系统。

5.根据权利要求4所述的方法，其特征在于，所述初始化统一部署系统具体包括：

加载数据源和/或模型，初始化解释器上下文。

6.根据权利要求4所述的方法，其特征在于，所述构建推断任务并执行所述推断任务得到执行结果具体包括：

创建一个推断任务，指定模型、数据源和/或解释器并指定任务开始前和结束后的操作；

加载单次输入的数据，调用解释器解释模型，计算得出推断任务的执行结果；

获得推断任务的所述执行结果。

7.根据权利要求6所述的方法，其特征在于，所述执行结果具体包括：

神经网络的输出、分类任务的目录和/或回归任务的输出结果。

8.根据权利要求4所述的方法，其特征在于，所述获取任务执行统计数据具体包括：

通过所述监控统计模块获取推断任务执行过程中的统计数据，其中，所述统计数据包括模型准确率、资源占用率和/或吞吐率指标。

9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现权利要求4～8任一项中所述的面向Android的深度学习模型统一部署方法对应的步骤。

10.一种计算机存储介质，其上存储有计算机程序指令，其特征在于，所述程序指令被处理器执行时用于实现权利要求4～8任一项中所述的面向Android的深度学习模型统一部署方法对应的步骤。