[发明专利]加速器运算控制方法、系统、存储介质、装置及设备在审
申请号: | 202310237752.9 | 申请日: | 2023-03-13 |
公开(公告)号: | CN115982530A | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 贾兆荣 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F17/15 | 分类号: | G06F17/15;G06F7/501;G06F7/523 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 杨帆;黄艳南 |
地址: | 215000 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 加速器 运算 控制 方法 系统 存储 介质 装置 设备 | ||
1.一种加速器运算控制方法,其特征在于,包括以下步骤:
根据加速器所对应的硬件资源对图片数据和模型数据分别进行粒度拆分,得到单位图片数据和单位模型数据;
基于卷积原理读取所述单位图片数据和所述单位模型数据,以使所述加速器在卷积运算过程中复用所述单位图片数据和所述单位模型数据。
2.根据权利要求1所述的方法,其特征在于,根据加速器所对应的硬件资源对图片数据和模型数据分别进行粒度拆分包括:
对所述图片数据的输入通道数进行粒度拆分,得到多个输入通道组;
对所述模型数据的卷积核数进行粒度拆分,得到多个卷积核组。
3.根据权利要求2所述的方法,其特征在于,使所述加速器在卷积运算过程中复用所述单位图片数据和所述单位模型数据包括:
以每个输入通道组和每个卷积核组为单位对所述图片数据和所述模型数据依次进行卷积核复用循环、卷积核数据循环、通道循环、图片数据批次循环和卷积核组循环。
4.根据权利要求3所述的方法,其特征在于,所述卷积核复用循环包括:
对当前输入通道组的图片数据依次读取,并利用当前卷积核组中的当前卷积核数据对依次读取的图片数据进行卷积计算。
5.根据权利要求3所述的方法,其特征在于,所述卷积核数据循环包括:
响应于当前卷积核数据计算完成,加载当前卷积核组中的下一个卷积核数据,并对所述下一个卷积核数据进行卷积核复用循环。
6.根据权利要求3所述的方法,其特征在于,所述通道循环包括:
响应于当前输入通道组的图片数据计算完成,继续计算下一个输入通道组的图片数据,并对所述下一个输入通道组的图片数据依次进行卷积核复用循环和卷积核数据循环。
7.根据权利要求3所述的方法,其特征在于,所述图片数据批次循环包括:
响应于当前批次的图片数据计算完成,继续计算下一批次图片数据,并对所述下一批次图片数据依次进行卷积核复用循环、卷积核数据循环和通道循环。
8.根据权利要求3所述的方法,其特征在于,所述卷积核组循环包括:
响应于当前卷积核组计算完成,加载下一个卷积核组,并利用所述下一个卷积核组依次进行卷积核复用循环、卷积核数据循环、通道循环和图片数据批次循环。
9.根据权利要求1所述的方法,其特征在于,基于卷积原理读取所述单位图片数据和所述单位模型数据包括:
通过运算逻辑发生器基于卷积原理读取所述单位图片数据和所述单位模型数据,并将读取过程封装为逻辑控制包。
10.根据权利要求9所述的方法,其特征在于,还包括:
通过所述运算逻辑发生器将所述逻辑控制包同时发送至图片数据加载模块和模型数据加载模块;
所述图片数据加载模块和所述模型数据加载模块基于接收到的所述逻辑控制包分别从缓存中读取当前待加载的图片数据和模型数据;
通过所述图片数据加载模块和所述模型数据加载模块基于所述逻辑控制包中的边界条件将所述当前待加载的图片数据和模型数据对齐,并同步加载至乘加运算阵列进行乘加运算。
11.根据权利要求10所述的方法,其特征在于,所述边界条件包括多个边界信号,所述多个边界信号随时钟周期进行更新;
所述多个边界信号包括卷积核宽度偏移信号、卷积核高度偏移信号、通道大小信号、卷积核复用次数信号、卷积核循环边界信号、通道循环边界信号、卷积核组循环边界信号、卷积层计算结束边界信号以及释放数据信号。
12.根据权利要求10所述的方法,其特征在于,还包括:
响应于所述图片数据加载模块接收到同步信号和所述逻辑控制包,基于所述同步信号触发卷积计数器计数,并根据所述卷积计数器和图片数据维度生成同步边界标志。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310237752.9/1.html,转载请声明来源钻瓜专利网。