[发明专利]一种卷积运算的硬件自动padding的方法

说明书

本公开揭示卷积运算的硬件自动padding的方法及其数据存储格式。其中，该数据存储格式在数据存储过程中，会将整个输入数据ifm进行分段，每段数据进行8等分切分，得到8组数据，然后对每组数据进行等位置抽取，等位置数据排为一列，进行顺序存储。如此，这种存储格式具有更好的局部性。相比现有技术中的HWC格式，本公开将此种存储格式命名为HWC88格式。对于所述硬件自动padding的方法，在采用HWC88存储格式的数据左右两侧，通过对原数据进行复制、移位后自动补足padding数据，从而快速进行卷积运算，其中在显式存储padding时，将padding部分视为正常数据，不需要额外计算padding地址。

技术领域

本公开属于处理器和计算技术领域，特别涉及一种卷积运算的硬件自动padding的方法及其数据存储格式。

背景技术

近年来为了提升数据传输带宽和计算性能，image或feature map会使用NCHW、NHWC等逻辑数据格式(数据在内存中的存放顺序)进行数据存储。在卷积神经网络中，为了让output feature map(ofm)在卷积操作后具有和input feature map(ifm)相同的宽度w和高度h，经常涉及到补padding运算。在不同的卷积运算中，上述数据格式的padding位置及大小是动态变化的，这就导致在卷积操作进行补padding时，需要额外计算padding地址。

发明内容

鉴于此，本公开提供了一种卷积运算的硬件自动padding的方法，其特征在于：

所述方法采用一种HWC88数据存储格式对数据进行存储，其中，

该数据存储格式在数据存储过程中，会将整个输入数据ifm进行分段，每段数据进行8等分切分，得到8组数据，然后对每组数据进行等位置抽取，等位置数据排为一列，进行顺序存储；

所述方法，在采用HWC88存储格式的数据左右两侧，通过对数据来源的原数据进行复制、移位后自动补足padding数据，从而快速进行卷积运算，其中，在显式存储padding时，将padding部分视为正常数据，不需要额外计算padding地址。

优选的，

对于不同卷积运算的wt尺寸，为了保持卷积运算后的ofm大小与ifm相同，需要对image或ifm数据补多行padding时，所述方法在fm存储数据的左右两侧，通过对原数据进行复制、移位后，对空余位补足fm分段后的数据列补足padding数据，即当前分段左右两侧的数据，以补足padding数据。

优选的，

对于不同Channel数，

假设fm维度为2(height)*24(width)*C(channel)，在Channel方向上以8为基数，切分为0～ci段(ci＝C/8)；以HWC88格式存储fm时，将每块相同位置相同通道组的数据放在内存的相同地址，优先存放每块中相同位置像素点的所有通道；

假设memory的一列位宽为64B，则刚好可以存储8个点的数据，其中每个点channel为8，则：fm上Width方向相邻的两个点之间的地址偏移为64B*ci，记作block_offset；

当padding存储为隐式存储时，将来源位置的数据复制一遍；其中，Pa.b中，a表示Width方向的位次，b表示Channel方向的位次。

优选的，

假设fm维度为1(height)*8(width)*8(channel)；wt维度为5(height)*5(width)*8(channel)*8(n)，以HWC88格式存储fm时，ifm需补2行padding；

对于HWC88格式存储后只有1列的情形，首先按照显式存储方法，将fm显式补足第一行padding，得到3列显式存储的fm；