[发明专利]用于卷积运算的数据重用方法、运算方法及装置、芯片有效
申请号: | 202010279132.8 | 申请日: | 2020-04-10 |
公开(公告)号: | CN111523642B | 公开(公告)日: | 2023-03-28 |
发明(设计)人: | 郑成伟;何虎;朱炜 | 申请(专利权)人: | 星宸科技股份有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/063 |
代理公司: | 北京中知法苑知识产权代理有限公司 11226 | 代理人: | 李明;赵吉阳 |
地址: | 361005 福建省厦门*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 卷积 运算 数据 重用 方法 装置 芯片 | ||
1.一种用于卷积运算的数据重用方法,其特征在于,包括:
确定执行卷积运算时的限制条件;其中,所述限制条件包括并行通道数量以及每个数据在片上存储器所分配的内存块数量;
根据所述限制条件,确定每个所述数据对应的每个维度上的划分尺寸;
根据所述划分尺寸,将每个所述数据对应的每个所述维度进行划分,获得每个所述数据对应的每个所述维度的候选子图块集合;
将每个所述维度的所述候选子图块集合中的每一个候选子图块,与其余所述维度的候选子图块集合中的每一个候选子图块进行组合,获得每个所述数据的候选图块集合;
将每个所述候选图块集合分别输入至预设的代价函数,并选取所述代价函数的最小输出值对应的候选图块作为目标图块,并将所述目标图块作为所述数据的后续重用划分方式;其中,所述代价函数用于衡量DMA搬运次数。
2.根据权利要求1所述的数据重用方法,其特征在于,所述将每个所述候选图块集合分别输入至预设的代价函数,包括:
根据每个所述数据所分配的所述内存块数量,从每个所述候选图块集合中剔除无效的候选图块,获得有效候选图块集合;
将每个所述有效候选图块集合分别输入至所述代价函数。
3.根据权利要求2所述的数据重用方法,其特征在于,所述将每个所述有效候选图块集合分别输入至所述代价函数,包括:
根据卷积运算的维度的先后顺序,确定所述有效候选图块集合中每个有效候选图块的有效候选图块组合,获得每个所述数据的有效候选图块组合集合;
将每个所述有效候选图块组合集合分别输入至所述代价函数。
4.根据权利要求1~3任一项所述的数据重用方法,其特征在于,所述根据所述划分尺寸,将每个所述数据对应的每个所述维度进行划分,获得每个所述数据对应的每个所述维度的候选子图块集合,包括:
根据所述划分尺寸,对输出数据对应的输出宽度、输出高度和输出通道数量三个维度进行划分、以及,对权重数据对应的输出宽度、输出高度、输入通道数量和输出通道数量四个维度进行划分,获得所述候选子图块集合。
5.一种用于卷积运算的数据重用装置,其特征在于,包括:
一个确定模块,用于确定执行卷积运算时的限制条件;其中,所述限制条件包括并行通道数量以及每个数据在片上存储器所分配的内存块数量;
一个计算模块,用于根据所述限制条件,确定每个所述数据对应的每个维度上的划分尺寸;
一个划分模块,用于根据所述划分尺寸,将每个所述数据对应的每个所述维度进行划分,获得每个所述数据对应的每个所述维度的候选子图块集合;
一个组合模块,用于将每个所述维度的所述候选子图块集合中的每一个候选子图块,与其余所述维度的候选子图块集合中的每一个候选子图块进行组合,以获得每个所述数据的候选图块集合;
一个选取模块,用于将每个所述候选图块集合分别输入至预设的代价函数,并选取所述代价函数的最小输出值对应的候选图块作为目标图块,并将所述目标图块作为所述数据的后续重用划分方式;其中,所述代价函数用于衡量DMA搬运次数。
6.根据权利要求5所述的数据重用装置,其特征在于,所述选取模块包括一个剔除单元和一个输入单元,所述将每个所述候选图块集合分别输入至预设的代价函数,包括:
所述剔除单元,用于根据每个所述数据所分配的所述内存块数量,从每个所述候选图块集合中剔除无效的候选图块,获得有效候选图块集合;
所述输入单元,用于将每个所述有效候选图块集合分别输入至所述代价函数。
7.根据权利要求6所述的数据重用装置,其特征在于,所述选取模块还包括一个组合单元,所述将每个所述有效候选图块集合分别输入至所述代价函数,包括:
所述组合单元,用于根据卷积运算的维度的先后顺序,确定所述有效候选图块集合中每个有效候选图块的有效候选图块组合,获得每个所述数据的有效候选图块组合集合;
所述输入单元,还用于将每个所述有效候选图块组合集合分别输入至所述代价函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于星宸科技股份有限公司,未经星宸科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010279132.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置