[发明专利]卷积运算装置和方法有效
申请号: | 201711118938.3 | 申请日: | 2017-10-29 |
公开(公告)号: | CN109726353B | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 请求不公布姓名 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F17/15 | 分类号: | G06F17/15;G06N3/063;G06N3/0464;G06N3/048 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 运算 装置 方法 | ||
1.一种卷积运算装置,其特征在于,包括动态调压调频装置、指令存储单元、控制器单元、数据访问单元、互连模块、主运算模块以及N个从运算模块,所述N为大于1的整数,其中:
所述指令存储单元,用于存储所述数据访问单元读入的指令;
所述控制器单元,用于从所述指令存储单元中读取指令,将该指令译成控制其他模块行为的控制信号,所述其他模块包括所述数据访问单元、所述主运算模块和所述N个从运算模块;
所述数据访问单元,用于执行外部地址空间与所述卷积运算装置之间的数据或指令读写操作;
所述N个从运算模块,用于实现卷积神经网络算法中的输入数据和卷积核的卷积运算;
所述互连模块,用于所述主运算模块和所述从运算模块之间的数据传输;
所述主运算模块,用于将所有输入数据的中间向量拼接成中间结果,并对所述中间结果执行后续运算;
所述动态调压调频装置,用于采集所述卷积运算装置的工作状态信息;根据所述卷积运算装置的工作状态信息向所述卷积运算装置发送电压频率调控信息,所述电压频率调控信息用于指示所述卷积运算装置调整其工作电压或者工作频率。
2.根据权利要求1所述的卷积运算装置,其特征在于,所述主运算模块还用于:
将中间结果与偏置数据相加,然后执行激活操作。
3.根据权利要求1所述的卷积运算装置,其特征在于,所述N个从运算模块具体用于:
利用相同的输入数据和各自的卷积核,并行地计算出各自的输出标量。
4.根据权利要求1所述的卷积运算装置,其特征在于,所述主运算模块使用的激活函数active是非线性函数sigmoid,tanh,relu,softmax中的任一个或线性函数。
5.根据权利要求1所述的卷积运算装置,其特征在于,所述互连模块构成所述主运算模块和所述N个从运算模块之间的连续或离散化数据的数据通路,所述互连模块为树状结构、环状结构、网格状结构、分级互连和总线结构中的任一种结构。
6.根据权利要求1所述的卷积运算装置,其特征在于,所述主运算模块包括:
第一存储单元,用于缓存所述主运算模块在计算过程中用到的输入数据和输出数据;
第一运算单元,用于完成所述主运算模块的各种运算功能;
第一数据依赖关系判定单元,是第一运算单元读写第一存储单元的端口,用于保证对所述第一存储单元的数据读写的一致性,并且从所述第一存储单元读取输入的神经元向量,并通过所述互连模块发送给所述N个从运算模块;以及将来自所述互连模块的中间结果向量被发送到所述第一运算单元。
7.根据权利要求1所述的卷积运算装置,其特征在于,所述N个从运算模块中的每个从运算模块包括:
第二运算单元,用于接收所述控制器单元发出的控制信号并进行算数逻辑运算;
第二数据依赖关系判定单元,用于在计算过程中对第二存储单元和第三存储单元的读写操作,以保证对所述第二存储单元和所述第三存储单元的读写一致性;
所述第二存储单元,用于缓存输入数据以及该从运算模块计算得到的输出标量;
所述第三存储单元,用于缓存该从运算模块在计算过程中需要的卷积核。
8.根据权利要求6或7所述的卷积运算装置,其特征在于,所述第一数据依赖关系判定单元和所述第二数据依赖关系判定单元通过以下方式保证读写一致性:
判断尚未执行的控制信号与正在执行过程中的控制信号的数据之间是否存在依赖关系,如果不存在,允许该条控制信号立即发射,否则需要等到该条控制信号所依赖的所有控制信号全部执行完成后该条控制信号才允许被发射。
9.根据权利要求1所述的卷积运算装置,其特征在于,所述数据访问单元从外部地址空间读入输入数据、偏置数据和卷积核中的至少一个。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711118938.3/1.html,转载请声明来源钻瓜专利网。