[发明专利]一种机器学习网络运行方法、装置及介质

权利要求书

1.一种机器学习网络运行方法，其特征在于，所述方法包括：

针对所述机器学习网络的操作，配置第一主运行设备和第一备选运行设备；

获取针对至少一个所述操作的所述第一主运行设备的第一性能参数和所述第一备选运行设备的第二性能参数；

所述针对所述机器学习网络的操作配置第一主运行设备和第一备选运行设备，包括：从所述机器学习网络中确定计算量大于第一预定计算量的操作；针对所确定的操作配置所述第一主运行设备和所述第一备选运行设备，其他操作直接以确定的实际运行设备运行；

基于所述第一性能参数和所述第二性能参数，从所述第一主运行设备和所述第一备选运行设备中选择性能参数的值最小的运行设备作为所述操作的更新后的第二主运行设备，其中，所述性能参数包括与所述操作相关的切换时间开销、运行时间开销和运行功耗；通过所述第二主运行设备，运行所述机器学习网络。

2.如权利要求1所述的方法，其特征在于，

所述与所述操作相关的切换时间开销为：所述操作的上游操作的第二主运行设备切换到所述操作的所述第二主运行设备的时间开销及所述操作的所述第二主运行设备切换到所述操作的下游操作的第一主运行设备的时间开销的总和。

3.如权利要求1所述的方法，其特征在于，所述从所述第一主运行设备和所述第一备选运行设备中选择性能参数的值最小的运行设备作为所述操作的更新后的第二主运行设备包括：

基于所述机器学习网络对应的拓扑结构的拓扑排序，确定所述机器学习网络中各操作的运行顺序；

按照所述运行顺序，确定所述机器学习网络中每个操作对应的所述第二主运行设备。

4.如权利要求1所述的方法，其特征在于，所述获取针对至少一个所述操作的所述第一主运行设备的第一性能参数和所述第一备选运行设备的第二性能参数，包括：

从所述机器学习网络中确定计算量大于第二预定计算量的操作；

获取所确定操作的第一主运行设备的第一性能参数和第一备选运行设备的第二性能参数。

5.一种机器学习网络运行装置，其特征在于，所述装置包括：

配置模块，被设置为针对所述机器学习网络的操作，配置第一主运行设备和第一备选运行设备；

所述配置模块还被设置为：从所述机器学习网络中确定计算量大于第一预定计算量的操作；针对所确定的操作配置所述第一主运行设备和所述第一备选运行设备，其他操作直接以确定的实际运行设备运行；

参数获取模块，被设置为获取针对至少一个所述操作的所述第一主运行设备的第一性能参数和所述第一备选运行设备的第二性能参数；

设备选择模块，被设置为基于所述第一性能参数和所述第二性能参数，从所述第一主运行设备和所述第一备选运行设备中选择性能参数的值最小的运行设备作为所述操作的更新后的第二主运行设备，其中，所述性能参数包括与所述操作相关的切换时间开销、运行时间开销和运行功耗；运行模块，被设置为通过所述第二主运行设备，运行所述机器学习网络。

6.如权利要求5所述的装置，其特征在于，所述与所述操作相关的切换时间开销为：所述操作的上游操作的第二主运行设备切换到所述操作的所述第二主运行设备的时间开销及所述操作的所述第二主运行设备切换到所述操作的下游操作的第一主运行设备的时间开销的总和。

7.如权利要求5所述的装置，其特征在于，所述设备选择模块还被设置为：

基于所述机器学习网络对应的拓扑结构的拓扑排序，确定所述机器学习网络中各操作的运行顺序；

按照所述运行顺序，选择所述机器学习网络中每个操作对应的所述第二主运行设备。

8.如权利要求5所述的装置，其特征在于，所述参数获取模块还被设置为：

从所述机器学习网络中确定计算量大于第二预定计算量的操作；

获取所确定操作的第一主运行设备的第一性能参数和第一备选运行设备的第二性能参数。