[发明专利]针对多个输入数据集的处理

说明书

本文公开了用于针对多个上下文执行多层神经网络处理的技术。在一个实施例中，计算引擎被设置成第一配置以实施神经网络的第二层并且处理与第一上下文有关的第一数据以生成第一上下文第二层输出。所述计算引擎可以从所述第一配置切换到第二配置以实施所述神经网络的第一层。所述计算引擎可以用于处理与第二上下文有关的第二数据以生成第二上下文第一层输出。所述计算引擎可以被设置成第三配置以实施所述神经网络的第三层以处理所述第一上下文第二层输出和所述第二上下文第一层输出，从而生成所述第一上下文的第一处理结果和所述第二上下文的第二处理结果。

背景技术

人工神经网络是具有基于生物神经网络的架构的计算系统。可以使用训练数据对人工神经网络进行训练，以了解如何执行某个计算任务。例如，训练数据可以包含与预定对象相关联的图像数据。经训练人工神经网络可以处理表示不同上下文(例如，在不同的地点、不同的时间、由不同的人捕获的，携带不同的信息等)的多个图像(或多个图像集)以确定图像或图像集是否含有预定对象的图像数据。

神经网络可以包含一组处理节点。每个处理节点可以处理一条输入数据以生成输出，并且可以基于所述一组处理节点的输出的组合而生成最终决策。作为处理的一部分，每个处理节点可以执行一组算术运算，例如浮点乘法和加法等。处理节点的算术运算可以由针对高速算术运算优化的电路系统和数据路径(如图形处理单元(GPU))来执行。

附图说明

图1展示了使用本文所公开的技术处理图像的示例数据处理装置；

图2A、图2B、图2C以及图2D是根据本公开的某些方面的使用本文所公开的技术的预测模型的简化框图；

图3A、图3B和图3C是根据本公开的某些方面的用于实施图2的预测模型的设备的内部组件中的一些内部组件的简化框图；

图4和图5展示了根据本公开的某些方面的操作计算系统以执行多个数据集的多层神经网络处理的示例序列；

图6展示了根据本公开的某些方面的操作计算系统以执行多个数据集的多层神经网络处理的方法的示例流程图；

图7A、图7B、图7C、图7D、图7E、图7F以及图7G展示了根据本公开的某些方面的用于调度多个数据集的多层神经网络处理的调度方案的实例；

图8展示了根据本公开的某些方面的调度计算引擎的操作的示例流程图；并且

图9展示了根据本公开的某些方面的计算装置的实例。

具体实施方式

在以下说明中，将描述各个实施例。出于解释的目的，阐述了具体的配置和细节，以便提供对实施例的透彻理解。然而，对于本领域的技术人员还将显而易见的是，可以在没有具体细节的情况下实践这些实施例。此外，可以省略或简化众所周知的特征以免混淆所描述的实施例。

本公开的实施例涉及一种操作计算引擎以对多个上下文的多层神经网络执行计算的方法。所述多层神经网络可以包含第一神经网络层、从第一神经网络层接收数据的第二神经网络层以及从第二神经网络层接收数据的第三神经网络层。在一个实例中，计算引擎可以被配置为第一神经网络层以对第一上下文执行计算，并且然后被配置为第二神经网络层以对第一上下文执行计算，并且可以存储第一上下文的第二神经网络层计算的输出。然后可以将计算引擎切换回到第一神经网络层以对第二上下文执行计算，并且计算引擎然后被配置为第二神经网络层以对第二上下文执行计算。可以存储第二上下文的第二神经网络层的输出。计算引擎然后可以被配置为第三神经网络层以对第一上下文和第二上下文并行执行计算。