[发明专利]一种用于执行全连接层神经网络正向运算的装置和方法

权利要求书

1.一种用于执行人工神经网络全连接层正向运算的装置，所述装置用于执行人工神经网络正向运算的指令；所述装置包括指令存储单元、控制器单元、数据访问单元、互连模块、主运算模块、以及从运算模块，其中：

数据访问单元，用于执行外部地址空间与所述装置之间的数据或指令读写操作；

指令存储单元，用于存储读入的指令；

控制器单元从指令存储单元中读取指令，将指令译成控制其他模块行为的控制信号，所述其他模块包括数据访问单元、主运算模块和所述从运算模块；

主运算模块，用于依据控制信号将输入神经元向量发送至互连模块；

所述互连模块，用于将所述输入神经元向量发送给所述从运算模块；

所述从运算模块，用于对输入神经元向量和从运算模块对应的权值向量执行点积运算得到输出神经元值，将输出神经元值发送至所述互连模块；

所述互连模块，用于依据输出神经元值得到中间结果向量，将中间结果向量发送至主运算模块；

主运算模块，用于将中间结果向量实现人工神经网络全连接层算法中的激活函数运算；

所述从运算模块包括多个从运算模块，

所述互连模块，具体用于逐级将各从运算模块的输出神经元值拼成中间结果向量；

每个从运算模块包括第二运算单元、第二数据依赖关系判定单元、第二存储单元和第三存储单元，其中：

第二运算单元，用于接收控制器单元发出的控制信号并进行算数逻辑运算；

第二数据依赖关系判定单元，用于对第二存储单元和第三存储单元的执行读写操作，以及保证指令之间所用的数据不存在读写一致性冲突；

第二存储单元，用于缓存输入神经元向量的数据以及该从运算模块计算得到的输出神经元值；

第三存储单元，用于缓存该从运算模块在计算过程中需要的权值向量。

2.根据权利要求1所述的装置，其特征在于，所述互连模块为由多个节点构成的二叉树通路，每个节点将上游节点的数据同样地发送至下游得了两个节点，以及将下游的两个节点返回的数据进行合并。

3.根据权利要求1或2所述的装置，其中，所述从运算模块的权值向量是权值矩阵中与该从运算模块相对应的行向量。

4.根据权利要求1或2所述的装置，其中，激活函数运算中的激活函数active是非线性函数sigmoid，tanh，relu，softmax中的任一个或线性函数；

所述指令包括：CONFIG指令、COMPUTE指令、IO指令、NOP指令、JUMP指令或MOVE指令。

5.根据权利要求2所述的装置，其中，主运算模块包括第一存储单元、第一运算单元、第一数据依赖关系判定单元和第一存储单元，其中：

神经元缓存单元，用于缓存主运算模块在计算过程中用到的输入数据和输出数据；

第一运算单元，完成主运算模块的各种运算功能；

第一数据依赖关系判定单元，用于从第一存储单元读取输入的神经元向量，并通过互连模块发送给从运算模块；以及接收互连模块的中间结果向量，将中间结果向量发送到第一运算单元。

6.根据权利要求5所述的装置，其特征在于，所述第一运算单元包括：向量加法单元和激活运算单元；

所述向量加法单元，用于将偏置数据与所述中间结果对位相加得到偏置结果；

所述激活运算单元，用于将所述偏置结果执行激活函数操作。

7.根据权利要求1所述的装置，其特征在于，所述第二运算 单元包括：向量乘单元和累加单元；

所述向量乘单元，用于执行点积运算中的向量乘运算；

所述累加单元，用于执行点积运算中的累加运算。

8.根据权利要求1或5所述的装置，其中，

所述数据依赖关系判定单元，具体用于判断未执行的控制信号的第一数据与正在执行过程中的控制信号的第二数据之间是否存在依赖关系，如果不存在依赖关系，允许该未执行的控制信号立即执行，如果存在依赖关系；在与未执行的控制信号存在依赖关系的所有控制信号全部执行完成后，允许该未执行的控制信号执行。