[发明专利]异构系统的数据处理方法、装置及计算机可读存储介质

权利要求书

1.一种异构系统的数据处理方法，其特征在于，包括：

将多个神经网络中的算子进行分类，分为加速算子和非加速算子；

获取各个算子的权值；

进行神经网络的加速程序，调度核选择和某个加速算子的权值相匹配的非加速算子，或选择和某个非加速算子初始权值相匹配的加速算子；

不同的运算单元分别运算被选择的加速算子和非加速算子；

所述加速算子由神经网络处理器完成计算，所述非加速算子由中央处理器完成计算。

2.如权利要求1所述的异构系统的数据处理方法，其特征在于，还包括：

在调度核中形成第一队列和第二队列；

对当前需要执行的所有神经网络按照执行顺序建立多个执行队列，每个神经网络对应一个执行队列；

对每个执行队列的队首算子执行弹出操作，将弹出的队首算子分类后进行入队，加速算子归入所述第一队列，非加速算子归入所述第二队列。

3.如权利要求2所述的异构系统的数据处理方法，其特征在于，还包括：当前需要执行的所有神经网络的队首算子均归入到第一队列或第二队列后，分别从第一队列和/或第二队列中弹出一个算子进行权值匹配，直至找出权值匹配的加速算子和非加速算子。

4.如权利要求1所述的异构系统的数据处理方法，其特征在于，还包括：将多个所述神经网络进行预运行，获取各个算子的初始权值，进行神经网络的加速程序时，对各个算子的初始权值进行更新。

5.如权利要求4所述的异构系统的数据处理方法，其特征在于，还包括：

进行多次所述神经网络的预运行，每次预运行获取各个算子的单次运行时间；

根据每个算子的多个单次运行时间，获得各个算子的平均运行时间；

所述各个算子的初始权值根据各个算子的平均运行时间获取；

实时获取各个算子的单次运行时间和/或平均运行时间，并根据实时获取的单次运行时间和/或平均运行时间更新各个算子的初始权值。

6.如权利要求1所述的异构系统的数据处理方法，其特征在于，还包括：当无法得到初始权值相匹配的加速算子或非加速算子时，进行算力分配；

对加速算子和/或非加速算子进行算子切分，和/或对加速算子和/或非加速算子进行算子合并。

7.如权利要求6所述的异构系统的数据处理方法，其特征在于，还包括：从第一队列和第二队列中分别随机弹出一个算子；

判断是否第一队列和第二队列各弹出一个算子，若是则判断两个算子的权值是否匹配，否则无法匹配，正常执行算子；

判断两个算子的权值是否匹配时，若是则匹配成功，两个算子同时执行；否则判断第一队列或第二队列中是否有最合适的算子可以替换；

判断第一队列或第二队列中是否有最合适的算子可以替换时，若是匹配成功，两个算子同时执行，否则对权值较小的算子所在的队列执行合并算法；

判断合并后加速算子和非加速算子的权值是否匹配，若是则匹配成功，两个算子同时执行，否则对权值较大的算子执行对半切分，将第一部分返还至其所在的队列；

判断切分形成的第二部分的权值是否大于另一个算子的权值，若是则返回上一步骤，否则撤销上一步骤，且匹配成功，两个算子同时执行。

8.一种异构系统的数据处理装置，其特征在于，包括设置在神经网络处理器中的调度核，所述调度核用于执行存储器中存储的计算机程序时实现如权利要求1至7任一项所述异构系统的数据处理方法的步骤。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有异构系统的数据处理程序，所述异构系统的数据处理程序被处理器执行时实现如权利要求1至7任一项所述异构系统的数据处理方法的步骤。