[发明专利]用于卷积计算的方法、计算设备和计算机可读存储介质

说明书

本公开涉及一种用于卷积计算的方法、计算设备和计算机可读存储介质。该方法包括：如果确定当前周期为初始周期，从输入缓存向脉动阵列加载n*n像素的数据，脉动阵列包括第一预定数目行乘以第二预定数目列的处理单元，初始周期与初始权重相关联，n为自然数；如果确定当前周期为初始周期之后的其他周期，基于当前周期的顺序，向脉动阵列加载一列像素的数据、一行像素的数据或者一个像素的数据；以及如果确定完成当前周期所对应的数据加载，经由输出复用单元，在脉动阵列中的一组或多组n*n像素的数据中选择一组n*n像素的数据，以便提供至通用矩阵乘单元。根据本公开的实施例，能够有效降低带宽占用和功率消耗。

技术领域

本公开的实施例总体上涉及机器学习领域，更具体地涉及一种用于卷积计算的方法、计算设备和计算机可读存储介质。

背景技术

机器学习中的典型运算为卷积计算，卷积计算是将卷积核中的权重和对应的输入像素块相乘再相加进而生成对应输出特征的值。块卷积需要img2col(图像到列)函数将像素块转换为矩阵，传统卷积计算的方法，例如基于img2col函数的块卷积计算，其要求每个周期加载每个权重的完整像素。例如，在原始的2x2像素的图像数据经由填充(padding)处理得到的4x4像素的图像数据上进行3x3的块卷积(9个权重，从weight 0到weight 8，对应于初始周期至第八周期，即cycle 0至cycle 8)的运算时，每个周期需要加载完整的2x2像素的数据。由于对于相邻周期，所需加载的像素数据存在相同的数据，重新加载完整的2x2像素的数据会导致浪费带宽和功率。

综上，传统的卷积计算方案因每个周期需要重新加载对应于每个权重的完整像素，因此导致占用更多带宽和消耗更高的功率。

发明内容

本公开提供了一种用于卷积计算的方法、计算设备和计算机可读存储介质，能够有效降低带宽占用和功率消耗。

根据本公开的第一方面，提供了一种用于卷积计算的方法。该方法包括：如果确定当前周期为初始周期，从输入缓存向脉动阵列加载n*n像素的数据，脉动阵列包括第一预定数目行乘以第二预定数目列的处理单元，初始周期与初始权重相关联，n为自然数；如果确定当前周期为初始周期之后的其他周期，基于当前周期的顺序，向脉动阵列加载一列像素的数据、一行像素的数据或者一个像素的数据；以及如果确定完成当前周期所对应的数据加载，经由输出复用单元，在脉动阵列中的一组或多组n*n像素的数据中选择一组n*n像素的数据，以便提供至通用矩阵乘单元。

根据本发明的第二方面，还提供了一种计算设备，该设备包括：输入缓存，用于缓存待加载的数据；输入复用单元，用于在初始周期，将来自输入缓存的n*n像素的待加载的数据向脉动阵列加载，以及在初始周期之后的其他周期，向脉动阵列加载一列像素的数据、一行像素的数据或者一个像素的数据；脉动阵列，被配置在输入缓存和通用矩阵乘单元之间，脉动阵列包括第一预定数目行乘以第二预定数目列的处理单元；以及输出复用单元，用于在每一个周期从脉动阵列中的一组或者多组n*n像素的数据中选择一组n*n像素的数据，以便提供至通用矩阵乘单元。

根据本公开的第三方面，还提供了一种计算机可读存储介质。该计算机可读存储介质上存储有计算机程序，计算机程序被机器执行时执行本公开的第一方面的方法。

在一些实施例中，从输入缓存向脉动阵列加载n*n像素的数据包括：经由输入复用单元，从输入缓存向脉动阵列加载n*n像素的数据，输入复用单元包括多个第一输入复用单元和一个第二输入复用单元。

在一些实施例中，基于当前周期的顺序向脉动阵列加载一列像素的数据、一行像素的数据或者一个像素的数据包括：如果确定当前周期为第一周期，向脉动阵列加载第n+1列像素的数据；以及如果确定当前周期为第二周期，向脉动阵列加载第n+2列像素的数据。