[发明专利]在推断期间中对图形处理器的协调和增加利用

权利要求书

1.一种促进自主机器处的机器学习的推断协调和处理利用的设备，所述设备包括：

检测/监测逻辑，用于在训练时根据与包括图形处理器的处理器相关的训练数据集来检测与将要执行的一个或多个任务相关的信息；以及

预分析训练逻辑，用于分析所述信息来确定能够支持所述一个或多个任务的与所述处理器相关的硬件的一个或多个部分，其中，所述预分析训练逻辑进一步用于将所述硬件配置成预先选择所述一个或多个部分来执行所述一个或多个任务，而所述硬件的其他部分保持可用于其他任务。

2.如权利要求1所述的设备，进一步包括推断协调逻辑，所述推断协调逻辑用于建立一个或多个传感器与推断输出之间的协调，所述推断输出与同所述训练数据集相关的推断操作相关联，其中，建立协调包括促进所述一个或多个传感器将一个或多个滤波器应用于一个或多个图像，以改变所述推断输出从而在完成所述推断操作之前匹配常态阈值，其中，所述一个或多个传感器包括用于捕获场景的所述一个或多个图像的一个或多个相机。

3.如权利要求1所述的设备，进一步包括早期融合逻辑，所述早期融合逻辑用于促进从所述一个或多个相机获取的相机模型与从一个或多个数据库获取的现有模型之间的提示的传送，其中，所述提示包括用于实现早期融合来促进预测、路径规划和决策制定的早期提示。

4.如权利要求1所述的设备，进一步包括神经网络调度逻辑，所述神经网络调度逻辑用于对多个神经网络的调度划分优先级，所述多个神经网络包括安全关键神经网络和非安全关键神经网络，其中，对调度划分优先级包括中断所述非安全关键神经网络中的一个或多个来允许所述安全关键神经网络中的一个或多个在没有中断的情况下继续执行其任务。

5.如权利要求4所述的设备，其中，对调度划分优先级包括针对所述多个神经网络中的一个或多个，将一个或多个执行单元从一个神经网络重新分配到另一神经网络，或者调整存储器、高速缓存、暂存器和计算元件中的一个或多个。

6.如权利要求4所述的设备，进一步包括处理利用逻辑，所述处理利用逻辑用于促进所述图形处理器的硬件单元通过现有上下文来监测对所述硬件的利用，其中，所述处理利用逻辑进一步用于促进所述图形处理器的上下文调度器基于所述利用来调整将所述硬件分配给所述现有上下文或新的上下文。

7.如权利要求1所述的设备，其中，所述图形处理器与应用处理器共存于共同的半导体封装体上。

8.一种用于促进自主机器处的机器学习的推断协调和处理利用的方法，所述方法包括：

在训练时根据与包括图形处理器的处理器相关的训练数据集来检测与将要执行的一个或多个任务相关的信息；

分析所述信息来确定能够支持所述一个或多个任务的与所述处理器相关的硬件的一个或多个部分；以及

将所述硬件配置成预先选择所述一个或多个部分来执行所述一个或多个任务，而所述硬件的其他部分保持可用于其他任务。

9.如权利要求8所述的方法，进一步包括建立一个或多个传感器与推断输出之间的协调，所述推断输出与同所述训练集相关的推断操作相关联，其中，建立协调包括促进所述一个或多个传感器将一个或多个滤波器应用于一个或多个图像，以改变所述推断输出从而在完成所述推断操作之前匹配常态阈值，其中，所述一个或多个传感器包括用于捕获场景的所述一个或多个图像的一个或多个相机。

10.如权利要求8所述的方法，进一步包括促进从所述一个或多个相机获取的相机模型与从一个或多个数据库获取的现有模型之间的提示的传送，其中，所述提示包括用于实现早期融合来促进预测、路径规划和决策的早期提示。