[发明专利]用于车辆感知系统的神经网络中的定点量化

说明书

本发明题为“用于车辆感知系统的神经网络中的定点量化”。本发明公开了用于在深神经网络中使用定点量化的技术的实施例。在根据本公开的多个方面的一个示例性实施方式中，计算机实现的方法包括在与车辆相关联的相机处捕获多个图像，并且将与多个图像相关联的图像数据存储到存储器。该方法还包括将车辆感知任务分派到与存储器通信的加速器的多个处理元件。该方法还包括通过多个处理元件中的至少一个处理元件执行使用神经网络的车辆感知的车辆感知任务，其中执行车辆感知任务包括基于激活输入和突触权重来量化定点值。该方法还包括至少部分地基于执行车辆感知任务的结果来控制车辆。

背景技术

本主题公开涉及控制车辆，并且更具体地涉及用于车辆感知系统的神经网络中的定点量化。

机器学习涉及能够从数据中学习以及对数据进行预测的算法的生成和使用。此类算法通常通过从示例输入构建模型来操作，以便进行数据驱动的预测或决策。已经开发出多种机器学习方法。一种此类方法称为人工神经网络(ANN)或简称神经网络(NN)，是一种受生物神经网络的结构和功能启发的学习算法。

NN包括人工神经元(节点)的互连组的分级层，其中节点的每个节点接收下层的输出作为输入。深度神经网络(DNN)为一种包含一个或多个隐藏的节点层的NN的类型。前馈NN为其中节点之间的连接不形成循环的NN。即，前馈NN为其中信息仅在一个方向上从输入节点向前移动，穿过一个或多个隐藏层(如果有的话)的节点，并且最终到达输出节点的NN。卷积NN构成一类深的前馈NN，该前馈NN包括输入层和输出层以及多个隐藏层。隐藏层通常包括卷积层、池化层、完全连接层、和归一化层。本文描述了对常规NN的技术改进。

发明内容

在一个示例性实施方案中，计算机实现的方法包括在与车辆相关联的相机处捕获多个图像，并且将与多个图像相关联的图像数据存储到存储器。该方法还包括将车辆感知任务分派到与存储器通信的加速器的多个处理元件。该方法还包括由多个处理元件中的至少一个处理元件使用神经网络执行用于车辆感知的车辆感知任务，其中执行车辆感知任务包括基于激活输入和突触权重来量化定点值。该方法还包括至少部分地基于执行车辆感知任务的结果来控制车辆。

除了本文描述的一个或多个特征部之外，在一些示例中，该方法还包括对定点值执行批量归一化。在一些示例中，如下执行批量归一化以确定yi：

其中并且其中γ和β为来自所述神经网络的批量归一化层的参数。在一些示例中，执行批量归一化包括使用移位寄存器对定点值执行1位左移。在一些示例中，定点值为8位定点值。在一些示例中，量化定点值包括将浮点值转换为定点值。在一些示例中，量化的定点值表示如下：

其中IL被确定为floor(log₂ 3σ)，其中σ为概率密度函数的标准偏差，FL被确定为8-IL，∈＝2^-FL，并且为∈的最大乘数，所述最大乘数为精度的值。在一些示例中，加速器还包括神经处理单元指令获取器、分派器、1级高速缓存和2级高速缓存。在一些示例中，加速器经由存储器通信地耦接到主机中央处理单元，其中该加速器为专用处理器，并且其中该主机中央处理单元为通用处理器。在一些示例中，主机中央处理单元从与车辆相关联的相机接收图像数据，并且将与多个图像相关联的图像数据存储到存储器。

在另一示例性实施方案中，系统包括具有计算机可读指令的存储器和用于实施用于执行方法的计算机可读指令的处理设备。该方法包括在与车辆相关联的相机处捕获多个图像，并且将与多个图像相关联的图像数据存储到存储器。该方法还包括将车辆感知任务分派到与存储器通信的加速器的多个处理元件。该方法还包括由多个处理元件中的至少一个处理元件使用神经网络执行用于车辆感知的车辆感知任务，其中执行车辆感知任务包括基于激活输入和突触权重来量化定点值。该方法还包括至少部分地基于执行车辆感知任务的结果来控制车辆。

除了本文描述的一个或多个特征部之外，在一些示例中，该方法还包括对定点值执行批量归一化。在一些示例中，如下执行批量归一化以确定yi：