[发明专利]面向神经网络异构计算平台的编程模型

权利要求书

1.一种异构计算平台的编译方法，包括：

将训练后的神经网络模型输入到用于神经网络专用处理器的神经网络(NN)优化编译器，生成与神经网络对应的NN汇编文件；

将NN汇编文件输入到NN汇编器，生成与神经网络对应的NN二进制文件；

使用主机编译器工具链编译和汇编用户用高级语言开发的神经网络应用程序，依次生成相应的主机汇编文件和主机二进制文件；

使用主机链接器链接NN二进制文件和主机二进制文件，以生成单一的混合链接可执行文件。

2.根据权利要求1所述的异构计算平台的编译方法，其中，所述的二进制文件是ELF二进制文件，所述的单一的混合链接可执行文件是单一的混合链接ELF可执行文件。

3.根据权利要求1所述的异构计算平台的编译方法，其中，所述高级语言是C/C++。

4.根据权利要求1所述的异构计算平台的编译方法，其中，所述的单一的混合链接可执行文件包括：

ELF标准可执行文件部分，其进一步包括：

ELF文件头，

段表，

代码段，

数据段，

NN扩展部分，其进一步包括：

NN头，

代码段，

数据段。

5.一种异构计算平台的程序运行支持方法，包括：

用户通过调用神经网络专用处理器开发库的高级语言应用编程接口(API)，实现神经网络专用处理器内核的初始化操作和运行时的控制；

启动根据权利要求1所述的异构计算平台的编译方法所得到的混合链接可执行文件；

所述可执行文件中的主机的代码段和数据段被操作系统的标准加载器加载到主机的内存空间；

所述可执行文件中的神经网络专用处理器的代码段和数据段被神经网络专用处理器加载器加载到神经网络专用处理器的内存空间；

主机代码段中的指令和神经网络专用处理器代码段中的指令按照神经网络应用设定的顺序串行执行。

6.一种异构计算平台的编译系统，包括：

用于神经网络专用处理器的神经网络(NN)优化编译器，用于接收训练后的神经网络模型，生成与神经网络对应的NN汇编文件；

NN汇编器，用于接收NN汇编文件，生成与神经网络对应的NN二进制文件；

主机编译器，用于编译用户用高级语言开发的神经网络应用程序，生成相应的主机汇编文件；

主机汇编器，用于汇编主机汇编文件，生成主机二进制文件；

主机链接器，用于链接NN二进制文件和主机二进制文件，以生成单一的混合链接可执行文件。

7.根据权利要求6所述的异构计算平台的编译系统，其中，所述的二进制文件是ELF二进制文件，所述的单一的混合链接可执行文件是单一的混合链接ELF可执行文件。

8.根据权利要求6所述的异构计算平台的编译系统，其中，所述高级语言是C/C++。

9.根据权利要求6所述的异构计算平台的编译系统，其中，所述的单一的混合链接可执行文件包括：

ELF标准可执行文件部分，其进一步包括：

ELF文件头，

段表，

代码段，

数据段，

NN扩展部分，其进一步包括：

NN头，

代码段，

数据段。

10.一种异构计算平台的程序运行支持系统，包括：

主机；

神经网络专用处理器；

神经网络应用程序；

神经网络专用处理器开发库，用于封装神经网络专用处理器的各种高级语言应用编程接口，以便提供给用户开发神经网络应用时调用，实现神经网络专用处理器内核的初始化操作和运行时的控制；

根据权利要求6所述的异构计算平台的编译系统，用于生成混合链接可执行文件；

操作系统的标准加载器，用于将所述可执行文件中的主机的代码段和数据段加载到主机的内存空间；

神经网络专用处理器加载器，用于将所述可执行文件中的神经网络专用处理器的代码段和数据段加载到神经网络专用处理器的内存空间；

主机操作系统；

神经网络专用处理器驱动程序，用于与主机操作系统相配合，使主机代码段中的指令和神经网络专用处理器代码段中的指令按照神经网络应用设定的顺序串行执行。