[发明专利]一种人工智能加速器的核函数编译方法和装置

说明书

本发明实施例公开了一种人工智能加速器的核函数编译方法、装置、电子设备及存储介质，该方法包括：获取人工智能加速器的目标源码文件并解析，以获取至少一个深度学习段落；根据人工智能加速器的硬件结构参数、核函数性能参数以及深度学习段落的输入参数结构，获取至少一个配置参数组，并根据至少一个配置参数组和至少一个初始核函数，获取至少一个配置核函数；编译至少一个配置核函数，并获取至少一个配置核函数中运算速度最快的最优配置核函数。本发明实施例提供的技术方案，通过代码扫描及后台的代码编译运行，完成深度学习操作的最优配置核函数的获取，极大地减少了AI加速器针对深度学习训练的编译时长，提高了AI加速器的计算效率。

技术领域

本发明实施例涉及芯片技术领域，尤其涉及一种人工智能加速器的核函数编译方法、装置、电子设备和存储介质。

背景技术

人工智能(Artificial Intelligence，AI)加速器，即AI芯片，用于处理复杂的计算任务，弥补了中央处理器(Central processing unit，CPU)在处理复杂数学计算上的不足，特别是基于深度学习的信息处理能力，极大地提高了CPU对图像和语音的识别能力。

AI加速器中预先编写有一系列执行特定操作的核函数，在深度学习训练及推理的过程中，对于可执行某个操作的所有核函数，根据影响运行性能的所有参数条件，将上述核函数编译为Kernel(编译后的核函数)，最终获取运算耗时最少的Kernel作为AI加速器执行该操作时的代码程序。

但是核函数的编译过程是一个非常耗时的操作，上述的编译过程导致AI加速器在进行深度学习训练或推理时，启动时间较长，大量的时间消耗在初始化编译上，极大地降低了AI加速器的计算效率。

发明内容

本发明实施例提供了一种人工智能加速器的核函数编译方法、装置、电子设备和存储介质，实现了AI加速器的核函数编译。

第一方面，本发明实施例提供了一种人工智能加速器的核函数编译方法，包括：

获取人工智能加速器的目标源码文件，并对所述目标源码文件进行解析，以获取至少一个深度学习段落；其中，所述深度学习段落包括至少一个初始核函数，所述深度学习段落用于执行深度学习操作；

根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构，获取至少一个配置参数组，并根据所述至少一个配置参数组和所述至少一个初始核函数，获取至少一个配置核函数；

编译所述至少一个配置核函数，并获取所述至少一个配置核函数中运算速度最快的最优配置核函数。

所述对所述目标源码文件进行解析，以获取至少一个深度学习段落，包括：通过配置函数表获取与深度学习操作相关的至少一个目标接口函数；其中，所述配置函数表包括多个深度学习框架在各个编程语言中的接口函数；根据所述至少一个目标接口函数，在所述目标源码文件中，获取至少一个深度学习段落。通过目标接口函数匹配的方式获取深度学习段落，提高了获取深度学习段落的准确性和完整性，避免了深度学习段落的遗漏。

在通过配置函数表获取与深度学习操作相关的至少一个目标接口函数前，包括：根据所述目标源码文件的文件类型，确定所述目标源码文件使用的目标编程语言，以及根据所述目标源码文件依赖的库名称，确定所述目标源码文件使用的目标深度学习框架；所述通过配置函数表获取与深度学习操作相关的至少一个目标接口函数，包括：根据所述目标编程语言类型和所述目标深度学习框架，通过配置函数表获取与深度学习操作相关的至少一个目标接口函数。在目标源码文件的代码匹配中，基于目标源码文件使用的编程语言和深度学习框架，不但可以获取到准确的目标接口函数，减少目标接口函数的数量，提高代码匹配效率，同时，也避免了误将非目标编程语言中的接口函数(例如，接口函数1)，作为目标源码文件的目标接口函数的现象发生，进一步提高了获取深度学习段落的准确性。