[发明专利]运算方法、装置及相关产品有效
申请号: | 201811455806.4 | 申请日: | 2018-11-30 |
公开(公告)号: | CN109558565B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 请求不公布姓名 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F17/15 | 分类号: | G06F17/15;G06F9/30;G06N3/0464;G06N3/06 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 200120 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 运算 方法 装置 相关 产品 | ||
1.一种运算方法,其特征在于,所述方法包括:
根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,所述数据包括所述矩阵加算法的输入数据和输出数据;所述分段信息根据片上缓存的大小确定;
根据所述数据的分段数据确定所述数据的第一中间表达;
根据所述数据的中间表达和所述矩阵加算法算子的第一中间表达,生成所述矩阵加算法的第一中间表达;
其中,所述根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据所述分段信息将各维度数据分别进行分段,得到各维度数据的维度分段数据,根据所述数据的各维度数据的维度分段数据,得到所述数据的分段数据;
所述根据所述数据的中间表达和所述矩阵加算法算子的第一中间表达,生成所述矩阵加算法的第一中间表达,包括:
确定所述数据的第一中间表达在片上缓存中对应的存储空间;
根据所述存储空间生成所述数据的第二中间表达;
根据所述数据的第二中间表达和所述算法算子的第二中间表达,生成所述算法的第二中间表达。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述矩阵加算法的第一中间表达生成所述矩阵加算法的第一可执行指令。
3.根据权利要求1所述的方法,其特征在于,所述矩阵加算法的输入数据包括N行C列的第三矩阵数据和N行C列的第四矩阵数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将第三矩阵数据和第四矩阵数据分别分为N段,得到第三矩阵数据的分段数据和第四矩阵数据的分段数据,其中,第三矩阵数据的分段数据每段长度为C,第四矩阵数据的分段数据每段长度为C。
4.一种运算装置,其特征在于,所述装置包括:
分段数据获取模块,用于根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,所述数据包括所述矩阵加算法的输入数据和输出数据;所述分段信息根据片上缓存的大小确定;
数据中间表达确定模块,用于根据所述数据的分段数据确定所述数据的第一中间表达;
算法中间表达确定模块,用于根据所述数据的中间表达和所述矩阵加算法算子的第一中间表达,生成所述矩阵加算法的第一中间表达;
其中,所述根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据所述分段信息将各维度数据分别进行分段,得到各维度数据的维度分段数据,根据所述数据的各维度数据的维度分段数据,得到所述数据的分段数据;
所述根据所述数据的中间表达和所述矩阵加算法算子的第一中间表达,生成所述矩阵加算法的第一中间表达,包括:
确定所述数据的第一中间表达在片上缓存中对应的存储空间;
根据所述存储空间生成所述数据的第二中间表达;
根据所述数据的第二中间表达和所述算法算子的第二中间表达,生成所述算法的第二中间表达。
5.根据权利要求4所述的装置,其特征在于,所述装置还包括:
第一可执行指令生成模块,用于根据所述矩阵加算法的第一中间表达生成所述矩阵加算法的第一可执行指令。
6.根据权利要求4所述的装置,其特征在于,所述矩阵加算法的输入数据包括N行C列的第三矩阵数据和N行C列的第四矩阵数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将第三矩阵数据和第四矩阵数据分别分为N段,得到第三矩阵数据的分段数据和第四矩阵数据的分段数据,其中,第三矩阵数据的分段数据每段长度为C,第四矩阵数据的分段数据每段长度为C。
7.一种神经网络运算装置,其特征在于,所述神经网络运算装置包括一个或多个如权利要求4-6任一项所述的运算装置,所述神经网络运算装置用于完成设定的神经网络运算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811455806.4/1.html,转载请声明来源钻瓜专利网。