[发明专利]卷积运算装置和方法

说明书

本发明公开了一种动态调压调频装置，卷积运算装置中的动态调压调频装置实时采集获取上述卷积运算及其内部其他单元/模块的工作状态信息，并根据根据卷积运算装置及其内部其他单元/模块的工作状态信息来调整卷积运算装置及其内部单元/模块的工作频率或者工作电压，以达到降低卷积运算装置在进行卷积运算过程中的整体运行功耗。

技术领域

本发明涉及电子领域，尤其涉及一种卷积运算装置和方法。

背景技术

随着工作频率的提高和半导体工艺的不断发展，芯片的功耗问题已成为深亚纳米集成电路中的一个重要的考虑因素，动态电压频率调节(Dynamic Voltage Frequencyscaling，简称DVFS)为目前在半导体领域被广泛采用的一种动态电压频率调节技术，DVFS技术具体是在动态调节芯片的运行频率和电压(对于同一芯片，频率越高，需要的电压也越高)，从而达到节能的目的。但是现有技术中，缺乏应用到智能芯片比如卷积运算装置的动态调压调频方法和相应的装置的设计。

发明内容

本发明实施例提供一种动态调压调频装置及方法，实现了芯片级的工作电压和工作频率的动态调节，降低了芯片的功耗。

第一方面，本发明实施例提供一种卷积运算装置，包括动态调压调频装置、指令存储单元、控制器单元、数据访问单元、互连模块、主运算模块以及N个从运算模块，所述N为大于1的整数，其中：

所述指令存储单元，用于存储所述数据访问单元读入的指令；

所述控制器单元，用于从所述指令存储单元中读取指令，将该指令译成控制其他模块行为的控制信号，所述其他模块包括所述数据访问单元、所述主运算模块和所述N个从运算模块；

所述数据访问单元，用于执行外部地址空间与所述卷积运算装置之间的数据或指令读写操作；

所述N个从运算模块，用于实现卷积神经网络算法中的输入数据和卷积核的卷积运算；

所述互连模块，用于所述主运算模块和所述从运算模块之间的数据传输；

所述主运算模块，用于将所有输入数据的中间向量拼接成中间结果，并对所述中间结果执行后续运算；

所述动态调压调频装置，用于采集所述卷积运算装置的工作状态信息；根据所述卷积运算装置的工作状态信息向所述卷积运算装置发送电压频率调控信息，所述电压频率调控信息用于指示所述卷积运算装置调整其工作电压或者工作频率。

在一种可行的实施例中，所述主运算模块还用于将中间结果与偏置数据相加，然后执行激活操作。

在一种可行的实施例中，所述N个从运算模块具体用于利用相同的输入数据和各自的卷积核，并行地计算出各自的输出标量。

在一种可行的实施例中，所述主运算模块使用的激活函数active是非线性函数sigmoid，tanh，relu，softmax中的任一个或线性函数。

在一种可行的实施例中，所述互连模块构成所述主运算模块和所述N个从运算模块之间的连续或离散化数据的数据通路，所述互连模块为树状结构、环状结构、网格状结构、分级互连和总线结构中的任一种结构。

在一种可行的实施例中，所述主运算模块包括：

第一存储单元，用于缓存所述主运算模块在计算过程中用到的输入数据和输出数据；

第一运算单元，用于完成所述主运算模块的各种运算功能；

第一数据依赖关系判定单元，是第一运算单元读写第一存储单元的端口，用于保证对所述第一存储单元的数据读写的一致性，并且从所述第一存储单元读取输入的神经元向量，并通过所述互连模块发送给所述N个从运算模块；以及将来自所述互连模块的中间结果向量被发送到第一运算单元。