[发明专利]一种计算装置及方法在审
申请号: | 201810207915.8 | 申请日: | 2018-03-14 |
公开(公告)号: | CN110276447A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F7/57 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算指令 计算装置 网络模型 运算指令 神经网络模型 存储单元 运算单元 控制器单元 处理效率 定点数据 数据采用 训练运算 译码 申请 | ||
1.一种计算装置,其特征在于,所述计算装置用于执行网络模型的计算,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元;
所述数据输入输出单元,用于获取至少一个输入数据、网络模型以及计算指令,所述至少一个输入数据为定点数据;
所述控制器单元,用于从所述存储单元提取所述计算指令,对该计算指令进行译码以得到一个或多个运算指令;将所述一个或多个运算指令以及所述至少一个输入数据发送给所述运算单元;
所述运算单元,用于根据所述一个或多个运算指令对所述至少一个输入数据执行计算得到计算指令的结果,所述计算指令的结果为浮点数据。
2.根据权利要求1所述的装置,其特征在于,所述存储单元还包括:
存储介质,用于存储所述网络模型和所述至少一个输入数据;
标量数据存储单元,用于存储标量数据。
3.根据权利要求1所述的装置,其特征在于,所述控制器单元包括:
指令缓存单元,用于存储与所述网络模型关联的计算指令;
指令处理单元,用于对所述计算指令对进行译码,以得到所述一个或多个运算指令;
存储队列单元,用于存储指令队列,该指令队列包括按该队列的前后顺序待执行的一个或多个运算指令或计算指令。
4.根据权利要求3所述的装置,其特征在于,所述数据输入输出单元还获取数据转换指令,所述数据转换指令包括操作域和操作码,该操作码用于指示所述数据转换指令的功能,所述数据转换指令的操作域包括输入数据的小数点位置和数据类型的转换方式标识;
所述控制器单元还包括:
所述指令处理单元,还用于当所述至少一个输入数据为浮点数据时,对所述数据转换指令进行解析,以得到所述输入数据的小数点位置和所述数据类型的转换方式标识;
数据转换单元,用于根据所述输入数据的小数点位置和所述数据类型的转换方式标识将所述至少一个输入数据转换为定点数据。
5.根据权利要求3或4所述的装置,其特征在于,所述运算单元包括:
依赖关系处理单元,用于确定第一运算指令与所述第一运算指令之前的第零运算指令是否存在关联关系,如所述第一运算指令与所述第零运算指令存在关联关系,将所述第一运算指令缓存在所述指令存储单元内,在所述第零运算指令执行完毕后,从所述指令存储单元提取所述第一运算指令传输至所述运算单元;
所述确定该第一运算指令与第一运算指令之前的第零运算指令是否存在关联关系包括:
依据所述第一运算指令提取所述第一运算指令中所需数据的第一存储地址区间,依据所述第零运算指令提取所述第零运算指令中所需数据的第零存储地址区间,如所述第一存储地址区间与所述第零存储地址区间具有重叠的区域,确定所述第一运算指令与所述第零运算指令具有关联关系,如所述第一存储地址区间与所述第零存储地址区间不具有重叠的区域,确定所述第一运算指令与所述第零运算指令不具有关联关系;
其中,所述第一运算指令和所述第零运算指令为所述多个运算指令中的任意两个。
6.根据权利要求1-3任一项所述的装置,其特征在于,所述运算单元包括:多个运算模块,所述多个运算模块用于执行n个流水级的计算;
所述运算单元,具体用于对所述至少一个输入数据执行第一流水级的计算得到第一中间结果,将所述第一中间结果输入到第二流水级执行第二流水级的计算得到第二中间结果,…,将第n-1中间结果输入到第n流水级执行第n流水级的计算得到第n中间结果,将所述第n中间结果输入到所述存储单元,所述n为大于或等于3的整数。
7.根据权利要求6所述的装置,其特征在于,所述控制器单元将所述至少一个输入数据的小数点位置发送至所述运算单元,所述运算单元还包括:
推导单元,根据所述至少一个输入数据的小数点位置推导得到一个或者多个中间结果的小数点位置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810207915.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:模型训练和选择推荐信息的方法和装置
- 下一篇:一种模型压缩方法及装置