[发明专利]运算方法、装置及相关产品有效
申请号: | 201811456746.8 | 申请日: | 2018-11-30 |
公开(公告)号: | CN109543836B | 公开(公告)日: | 2021-08-03 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F15/78;G06F9/30 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 200120 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 运算 方法 装置 相关 产品 | ||
1.一种运算方法,其特征在于,所述方法包括:
根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,所述数据包括所述矩阵加算法的输入数据和输出数据;
根据所述数据的分段数据确定所述数据的第一中间表达;
确定数据的第一中间表达在片上缓存中对应的存储空间;
根据所述存储空间的地址生成所述数据的第二中间表达;
根据所述数据的第二中间表达和所述矩阵加算法算子的第二中间表达,生成所述矩阵加算法的第二中间表达,
所述数据为多维数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将所述数据各维度数据分别进行分段,得到所述数据各维度数据的维度分段数据;
根据所述数据的各维度数据的维度分段数据,得到所述数据的分段数据,
其中,所述数据的分段数据共用相同的第一中间表达。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述矩阵加算法的第一中间表达生成所述矩阵加算法的第一可执行指令,或
根据所述矩阵加算法的第二中间表达生成所述矩阵加算法的第二可执行指令。
3.根据权利要求1所述的方法,其特征在于,所述分段信息根据片上缓存的大小确定。
4.根据权利要求1所述的方法,其特征在于,所述矩阵加算法的输入数据包括N行C列的第三矩阵数据和N行C列的第四矩阵数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将第三矩阵数据和第四矩阵数据分别分为N段,得到第三矩阵数据的分段数据和第四矩阵数据的分段数据,其中,第三矩阵数据的分段数据每段长度为C,第四矩阵数据的分段数据每段长度为C。
5.一种运算装置,其特征在于,所述装置包括:
分段数据获取模块,用于根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,所述数据包括所述矩阵加算法的输入数据和输出数据;
数据中间表达确定模块,用于根据所述数据的分段数据确定所述数据的第一中间表达;
存储空间确定模块,用于确定数据的第一中间表达在片上缓存中对应的存储空间;
第二中间表达确定模块,用于根据所述存储空间的地址生成所述数据的第二中间表达;
算法中间表达确定模块,用于根据所述数据的第二中间表达和所述矩阵加算法算子的第二中间表达,生成所述矩阵加算法的第二中间表达,
其中,所述数据为多维数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将所述数据各维度数据分别进行分段,得到所述数据各维度数据的维度分段数据;
根据所述数据的各维度数据的维度分段数据,得到所述数据的分段数据,
所述数据的分段数据共用相同的第一中间表达。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
第一可执行指令生成模块,用于根据所述矩阵加算法的第一中间表达生成所述矩阵加算法的第一可执行指令,或
第二可执行指令生成模块,用于根据所述矩阵加算法的第二中间表达生成所述矩阵加算法的第二可执行指令。
7.根据权利要求5所述的装置,其特征在于,所述分段信息根据片上缓存的大小确定。
8.根据权利要求5所述的装置,其特征在于,所述矩阵加算法的输入数据包括N行C列的第三矩阵数据和N行C列的第四矩阵数据,根据分段信息将矩阵加算法的数据分段,得到所述数据的分段数据,包括:
根据分段信息将第三矩阵数据和第四矩阵数据分别分为N段,得到第三矩阵数据的分段数据和第四矩阵数据的分段数据,其中,第三矩阵数据的分段数据每段长度为C,第四矩阵数据的分段数据每段长度为C。
9.一种神经网络运算装置,其特征在于,所述神经网络运算装置包括一个或多个如权利要求5-8中任一项所述的运算装置,所述神经网络运算装置用于完成设定的神经网络运算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811456746.8/1.html,转载请声明来源钻瓜专利网。