[发明专利]用于执行pooling运算的装置和方法

权利要求书

1.一种执行pooling运算的装置，该装置包括数据访问单元和运算模块，其中，

数据访问单元用于访问外部地址空间，完成数据的加载和存储；

所述运算模块用于完成pooling运算，所述运算模块具体用于完成maxpooling运算的求最大值运算，或用于完成avgpooling运算的累加和乘法运算；

对于maxpooling，在正向运算时，运算模块循环读取pooling核kernel的输入向量，做比较大小的运算操作，得到新的kernel的输出向量同时保存每一个输出向量对应的索引向量，直至本层pooling运算结束；

对于maxpooling，在反向训练时，运算模块根据正向运算时保存的索引向量，通过数据访问单元将输入梯度向量对应输出至相应的存储位置，得到输出梯度向量；

其中，所述运算模块包括运算单元、数据依赖关系判断单元和神经元存储单元，

所述神经元存储单元用于缓存运算模块在计算过程中用到的输入数据和输出数据；

所述运算单元用于完成运算模块的各种运算功能；

所述数据依赖关系判断单元是运算单元读写神经元存储单元的端口，所述数据依赖关系判断单元用于判断尚未执行的微指令与正在执行过程中的微指令的数据之间是否存在依赖关系，如果不存在，允许该条微指令立即发射，否则需要等到该条微指令所依赖的所有微指令全部执行完成后该条微指令才允许被发射。

2.如权利要求1所述的执行pooling 运算的装置，其特征在于，还包括指令存储单元和控制器单元，其中

控制器单元用于从指令存储单元中读取指令，将指令译码成控制运算模块行为的控制信号，然后将控制信号分发至运算模块；

指令存储单元用于通过数据访问单元读入指令并缓存读入的指令。

3.如权利要求2所述的执行pooling运算的装置，其特征在于，所述指令包括以下至少一种：

CONFIG指令，在每层人工神经网络计算开始前配置当前层计算需要的各种常数；

COMPUTE指令，完成每层人工神经网络的算术逻辑计算；

IO指令，实现从外部地址空间读入计算需要的输入数据以及在计算完成后将数据存回至外部空间；

NOP指令，负责清空当前装至内部所有微指令缓存队列中的微指令，保证NOP指令之前的所有指令全部指令完毕；

JUMP指令，负责控制器将要从指令存储单元读取的下一条指令地址的跳转，用来实现控制流的跳转；

MOVE指令，负责将装置内部地址空间某一地址的数据搬运至装置内部地址空间的另一地址。

4.如权利要求1所述的执行pooling运算的装置，其特征在于，

对于maxpooling，在反向训练时，运算模块根据正向运算时保存的索引向量，通过数据访问单元将输入梯度向量对应输出至相应的存储位置，得到输出梯度向量。

5.如权利要求3所述的执行pooling运算的装置，其特征在于，

对于avgpooling，在正向运算时，运算模块依次完成累加每一个输入向量；然后在运算模块中完成乘以1/kernel_size运算，得到输出向量，kernel_size表示pooling核kernel的大小；循环读取新的kernel的输入向量，做上述累加、乘法运算操作，得到新的kernel的输出向量，直至本层pooling运算结束。

6.如权利要求3所述的执行pooling运算的装置，其特征在于，

对于avgpooling，在反向训练时，运算模块将输入梯度向量乘以1/kernel_size，通过数据访问单元将输入梯度向量对应输出至相应的存储位置，得到输出梯度向量。

7.如权利要求3所述的执行pooling运算的装置，其特征在于，所述数据依赖关系判断单元用于判断尚未执行的控制信号与正在执行过程中的控制信号的数据之间是否存在依赖关系，如果不存在，允许该条控制信号立即发射，否则需要等到该条控制信号所依赖的所有控制信号全部执行完成后该条控制信号才允许被发射。