[发明专利]一种数据调用方法、装置、设备及介质

权利要求书

1.一种数据调用方法，其特征在于，包括：

对预先获取的模型进行抽象转换，以得到计算图，然后对所述计算图进行图像分割优化，以得到各计算子图；

对所述计算子图进行向量化处理，以得到张量表示，确定出张量表示的类型，并根据所述张量表示的类型确定出相应的目标代码；

利用所述目标代码对所述张量表示进行处理，以得到底层代码，并将所述底层代码发送至与所述计算子图的类型相对应的编译器，以得到二进制文件，以便服务端对所述二进制文件中的数据进行调用。

2.根据权利要求1所述的数据调用方法，其特征在于，所述对预先获取的模型进行抽象转换，以得到计算图，包括：

利用Python脚本实现的预设前端解释器对预先获取的模型进行抽象转换，以得到计算图；其中，所述计算图中包括算子和数据流信息；

将所述计算图以TorchScript格式保存至本地。

3.根据权利要求1所述的数据调用方法，其特征在于，所述对所述计算图进行图像分割优化，以得到各计算子图，包括：

对所述计算图进行常量折叠操作和算子融合操作，以得到操作后的图像；

对所述操作后的图形进行分割，以得到各计算子图。

4.根据权利要求1所述的数据调用方法，其特征在于，所述对所述计算子图进行向量化处理，以得到张量表示，包括：

利用开源框架TVM中的AutoTVM对所述计算子图进行循环分块操作和向量化处理，以得到张量表示。

5.根据权利要求1至4任一项所述的数据调用方法，其特征在于，所述确定出张量表示的类型，并根据所述张量表示的类型确定出相应的目标代码，包括：

确定出张量表示的类型；

根据所述张量表示的类型从预设的代码模块库中筛选出与所述张量表示的类型相对应的目标代码。

6.根据权利要求5所述的数据调用方法，其特征在于，所述利用所述目标代码对所述张量表示进行处理，以得到底层代码，并将所述底层代码发送至与所述计算子图的类型相对应的编译器，以得到二进制文件，包括：

利用所述目标代码对所述张量表示进行语言转化处理，以得到底层代码，并确定出与所述张量表示的类型相对应的编译器和算子内核；

将所述底层代码发送至所述编译器进行编译处理，以得到二进制文件，并将所述二进制文件以动态链接库的格式保存至与所述张量表示的类型相对应的算子内核。

7.根据权利要求6所述的数据调用方法，其特征在于，所述以便服务端对所述二进制文件中的数据进行调用，包括：

服务端根据业务需求确定出处理器，建立与所述处理器类型相同的所述算子内核之间的连接关系，以便所述服务端根据所述连接关系对所述算子内核中所述二进制文件中的数据进行调用。

8.一种数据调用装置，其特征在于，包括：

图像分割模块，用于对预先获取的模型进行抽象转换，以得到计算图，然后对所述计算图进行图像分割优化，以得到各计算子图；

目标代码确定模块，用于对所述计算子图进行向量化处理，以得到张量表示，确定出张量表示的类型，并根据所述张量表示的类型确定出相应的目标代码；

数据调用模块，用于利用所述目标代码对所述张量表示进行处理，以得到底层代码，并将所述底层代码发送至与所述计算子图的类型相对应的编译器，以得到二进制文件，以便服务端对所述二进制文件中的数据进行调用。

9.一种电子设备，其特征在于，包括：

存储器，用于保存计算机程序；

处理器，用于执行所述计算机程序，以实现如权利要求1至7任一项所述的数据调用方法。

10.一种计算机可读存储介质，其特征在于，用于保存计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据调用方法。