[发明专利]一种具有高灵活性与精度的非线性运算电路结构

权利要求书

1.一种具有高灵活性与精度的非线性运算电路结构，针对神经网络的激活函数的运算加速，其特征在于，包括：粗粒度的查找表X、细粒度的查找表Y、两个用于提升查找表精度的插值器、输出选择器，以及基本运算单元；粗粒度的查找表X和一个插值器，细粒度的查找表Y和另一个插值器，分别构成上下对称的两个数据通道，其中：

所述粗粒度的查找表X拥有M个入口，覆盖非线性激活函数的大部分输入范围；

所述细粒度查找表Y拥有N个入口，它仅覆盖非线性激活函数整个输入范围的一小部分--覆盖非线性函数坡度显著变化的区域；

所述插值器，采用线性插值的逻辑；插值器包括：两个加法器或一个加法器和一个减法器，两个乘法器；

所述基本运算单元，根据实际输入数据，计算出查找表的索引以及插值器所需的插值系数α；

所述输出选择器，用于选择使用粗粒度的查找表还是细粒度的查找表：当输入数据位于细粒度查找表所覆盖的范围时，选择细粒度查找表插值后的结果作为电路的输出；反之，使用粗粒度查找表插值后的结果作为电路的输出。

2.根据权利要求1所述的非线性运算电路结构，其特征在于，其运算流程为：输入数据x进入两个对称的数据通路：粗粒度查找表X对应的上通路与细粒度查找表Y对应的下通路；

粗粒度查找表的覆盖范围即覆盖非线性激活函数的大部分输入范围，记为min_X至max_X，一共有M个入口，每个入口输入数据的步进step_X=(max_X-min_X)/(M-1)；输入数据x0先经过一个减法器与一个乘法器，乘法器的输出等于(x0-min_X)/step_X,它的整数部分就是查找表X的入口索引，记作index(x0)=floor((x0-min_X)/step_X)，其中，floor表示向下取整；乘法器输出的小数部分对应于插值器所需的插值系数α；查找表有两个输出L0与L1，其中L1=LUT_X[index(x0)]，L0= LUT_X[index(x0)+1]；L1代表查找表中小于x0且最接近x0的入口索引对应的数值，L0代表查找表中大于x0且最接近x0的入口索引对应的数值，α表示x0与相邻的两个查找表入口相对位置关系；根据线性插值公式，f(x0)处的值为α*L0+(1-α)*L1；

细粒度查找表的数据通路与粗粒度查找表数据通路的结构类似，它的覆盖范围即覆盖非线性函数坡度显著变化的区域，记为min_Y至max_Y；细粒度查找表的覆盖范围小于粗粒度查找表的覆盖范围；细粒度查找表有N个入口，每个入口输入数据的步进step_Y=(max_Y-min_Y)/(N-1)；输入数据x0先经过一个减法器与一个乘法器，乘法器的输出等于(x0-min_Y)/step_Y,它的整数部分就是查找表Y的入口索引，记作index(x0)=floor((x0-min_Y)/step_Y)，其中，floor表示向下取整；乘法器输出的小数部分对应于插值器所需的插值系数α；查找表有两个输出L0与L1，其中L1=LUT_Y[index(x0)]，L0= LUT_Y[index(x0)+1]；L1代表查找表中小于x0且最接近x0的入口索引对应的数值，L0代表查找表中大于x0且最接近x0的入口索引对应的数值，α表示x0与相邻的两个查找表入口相对位置关系；根据线性插值公式，f(x0)处的值为α*L0+(1-α)*L1；细粒度查找表的插值器还输出一个1比特的状态信息，用以表示输入数据是否位于细粒度查找表所覆盖的范围内。