[发明专利]一种面向华为昇腾加速卡的自动编译运行C/C++代码的方法

权利要求书

1.一种面向华为昇腾加速卡的自动编译运行C/C++代码的方法，其特征在于，通过昇腾加速卡处理器向上层提供的Ascend平台及其自定义算子的特点，结合C/C++语言编译，以算子函数开发和调用的整体流程并整合主机和昇腾加速卡处理器的数据管理和运行调度能力，实现在昇腾加速卡上执行自定义的函数代码，该方法实现最终为一个软件框架的形式；；其中，包括自定义算子函数的统一描述模型、针对主机和昇腾加速卡处理器内存管理的数据模型、针对Ascend平台自定义算子的自动化配置程序以及自定义算子的调用执行系统。

2.根据权利要求1所述的面向华为昇腾加速卡的自动编译运行C/C++代码的方法，其特征在于，所述自定义算子函数的统一描述模型是为了在满足Ascend平台规定的自定义算子约束的前提下，适应各种类型参数的自定义函数；通过模板编程和多余参数的方式，使得算子函数统一模型可以涵括各种类型数据和规范化入参和返回值。

3.根据权利要求1所述的面向华为昇腾加速卡的自动编译运行C/C++代码的方法，其特征在于，所述针对主机和昇腾加速卡处理器内存管理的数据模型是整合了主存的内存分配方式和昇腾加速卡处理器的内存分配，以两者间的数据拷贝，通过数据模型的数据描述结构产生算子调用时的json描述文件，进而调用算子。

4.根据权利要求1所述的面向华为昇腾加速卡的自动编译运行C/C++代码的方法，其特征在于，所述针对Ascend平台自定义算子的自动化配置程序为一个根据用户自定义的算子、调用的算子及数据模型实例生成配置文件的自动化模块，同时处理与算子无关的Ascend平台规范的逻辑代码。

5.根据权利要求1所述的所述的面向华为昇腾加速卡的自动编译运行C/C++代码的方法，其特征在于，所述自定义算子的调用执行系统为一个自动处理自定义函数调用逻辑的模块，基于数据模型和自动化配置程序，调用执行系统还加强对于执行函数和设备的管理，使用一个哈希表来映射用户所要执行的函数，以及在那个昇腾加速卡设备执行；只为用户提供一个run函数，即可执行自定义的各个函数，简化Ascend平台调用的自定义算子调用流程。