[发明专利]利用人工智能处理器执行任务的方法及其相关产品

权利要求书

1.一种利用人工智能处理器执行任务的方法，其特征在于，包括：

将待执行任务对应的神经网络模型解析为包含多个神经网络运算节点的计算拓扑图；

将所述计算拓扑图中的多个神经网络运算节点分别分配给人工智能处理器中类型匹配的多个功能模块，以由所述功能模块执行。

2.根据权利要求1所述的方法，其特征在于，将所述计算拓扑图中的多个神经网络运算节点分别分配给人工智能处理器中类型匹配的多个功能模块，以由所述功能模块执行包括：

将所述计算拓扑图中并行的多个神经网络运算节点分别分配给人工智能处理器中类型匹配的不同功能模块。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

确定所述计算拓扑图中的关键路径，并将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点；

其中，将所述计算拓扑图中的多个神经网络运算节点分别分配给人工智能处理器中类型匹配的多个功能模块，以由所述功能模块执行包括：

将拆分得到的多个神经网络运算子节点分别分配给人工智能处理器中类型匹配的多个功能模块。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

确定分配给同一功能模块的所有神经网络运算节点和神经网络运算子节点的优先级，以使所述功能模块按所确定的优先级的顺序执行神经网络运算节点和神经网络运算子节点。

5.根据权利要求4所述的方法，其特征在于，利用向上排序算法和/或向下排序算法确定分配给同一功能模块的所有神经网络运算节点和神经网络运算子节点的优先级。

6.根据权利要求5所述的方法，其特征在于，在所述向上排序算法中，根据神经网络运算节点和神经网络运算子节点的开始时刻与所述待执行任务的开始时刻之间的时间差确定优先级。

7.根据权利要求5所述的方法，其特征在于，在所述向下排序算法中，根据神经网络运算节点和神经网络运算子节点的结束时刻与所述待执行任务的结束时刻之间的时间差确定优先级。

8.根据权利要求3所述的方法，其特征在于，将由同一神经网络运算节点拆分得到的多个神经网络运算子节点分配给所述人工智能处理器中类型匹配的不同功能模块。

9.根据权利要求3所述的方法，其特征在于，拆分得到的神经网络运算子节点中的至少一部分子节点的运算类型与拆分前的节点的运算类型不同。

10.根据权利要求3所述的方法，其特征在于，将拆分得到的多个神经网络运算子节点分别分配给人工智能处理器中类型匹配的多个功能模块包括：

除了根据功能模块的类型，还根据功能模块的计算速度和/或通信代价进行分配。

11.根据权利要求3所述的方法，其特征在于，确定所述计算拓扑图中的关键路径，并将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点包括：

利用迭代拆分算法进行拆分。

12.根据权利要求3所述的方法，其特征在于，确定所述计算拓扑图中的关键路径，并将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点包括：

A、将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点；

B、确定拆分后的拆分收益，并更新所述关键路径。

13.根据权利要求12所述的方法，其特征在于，所述拆分收益为拆分后相对于拆分前执行所述任务缩短的时间。