[发明专利]深度学习算法的编译方法、装置及相关产品

权利要求书

1.一种深度学习算法的编译方法，其特征在于，所述方法包括：

根据深度学习算法的原始计算图和原始模型数据，进行面向所述深度学习算法的协同处理，得到第一计算图和第一模型数据，其中，模型数据包括所述深度学习算法在推理过程中存在的常量数据；

根据所述第一计算图，生成硬件指令和数据描述符；

根据所述数据描述符，对所述第一模型数据进行面向硬件平台的处理，得到第二模型数据；

根据所述硬件指令和所述第二模型数据，得到所述深度学习算法的可执行文件；

根据深度学习算法的原始计算图和原始模型数据，进行面向所述深度学习算法的协同处理，得到第一计算图和第一模型数据，包括：

读取所述原始计算图和所述原始模型数据；

识别所述原始计算图内的连续线性变换操作节点；

通过线性变换和常量折叠，对所述连续线性变换操作节点进行处理，得到第一计算图和第一模型数据。

2.根据权利要求1所述的深度学习算法的编译方法，其特征在于，所述连续线性变换操作节点包括：至少2个连续的线性变换操作节点。

3.根据权利要求1所述的深度学习算法的编译方法，其特征在于，通过线性变换和常量折叠，对所述连续线性变换操作节点进行处理，得到第一计算图和第一模型数据，包括：

将所述原始计算图内的连续线性变换操作节点进行线性变换和常量折叠，将所述连续线性变换操作节点合并，得到第一计算图；

将所述连续线性变换操作节点对应的模型数据合并，得到第一模型数据。

4.根据权利要求1所述的深度学习算法的编译方法，其特征在于，根据所述第一计算图，生成硬件指令和数据描述符，包括：

根据代价模型对所述第一计算图进行处理，结合启发式搜索策略，得到硬件指令和数据描述符。

5.根据权利要求4所述的深度学习算法的编译方法，其特征在于，根据代价模型对所述第一计算图进行处理，结合启发式搜索策略，得到硬件指令和数据描述符，包括：

通过代价模型对所述第一计算图进行建模，生成搜索空间和目标函数；

通过启发式搜索策略，在所述搜索空间内进行搜索，当所述目标函数达到阈值时，生成面向硬件平台的硬件指令和数据描述符。

6.根据权利要求4所述的深度学习算法的编译方法，其特征在于，所述启发式搜索策略包括：

提高硬件平台内片上缓存的利用率的搜索策略；或者，

在保证硬件平台内运算单元和访问单元的利用率的基础上，减小运算粒度和访存粒度的搜索策略。

7.根据权利要求1所述的深度学习算法的编译方法，其特征在于，根据所述数据描述符，对所述第一模型数据进行面向硬件平台的处理，得到第二模型数据，包括：

根据所述数据描述符，按照硬件平台内的运算要求，对所述第一模型数据进行数据对齐；或者，

根据所述数据描述符，按照硬件平台内的运算要求，对所述第一模型数据进行维度变换；或者，

根据所述数据描述符，按照硬件平台内的运算要求，对所述第一模型数据进行精度选择。

8.根据权利要求1所述的深度学习算法的编译方法，其特征在于，根据所述硬件指令和所述第二模型数据，得到所述深度学习算法的可执行文件，包括：

将所述硬件指令和所述第二模型数据打包，得到所述深度学习算法的可执行文件。