[发明专利]一种计算装置及方法在审
申请号: | 201810207915.8 | 申请日: | 2018-03-14 |
公开(公告)号: | CN110276447A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F7/57 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算指令 计算装置 网络模型 运算指令 神经网络模型 存储单元 运算单元 控制器单元 处理效率 定点数据 数据采用 训练运算 译码 申请 | ||
本申请提供了一种计算装置,该计算装置用于执行网络模型的计算,该网络模型包括神经网络模型和/或非神经网络模型;计算装置包括:用于获取至少一个输入数据、网络模型以及计算指令的存储单元;用于从存储单元提取计算指令,对该计算指令进行译码以得到一个或多个运算指令和将一个或多个运算指令以及至少一个输入数据发送给运算单元的控制器单元;和用于根据一个或多个运算指令对至少一个输入数据执行计算得到计算指令的结果的运算单元。本发明实施例对参与网络模型计算的数据采用定点数据进行表示,可提升训练运算的处理速度和处理效率。
技术领域
本申请涉及信息处理技术领域,具体涉及一种计算装置及方法。
背景技术
随着信息技术的不断发展和人们日益增长的需求,人们对信息及时性的要求越来越高了。目前,终端对信息的获取以及处理均是基于通用处理器获得的。
在实践中发现,这种基于通用处理器运行软件程序来处理信息的方式,受限于通用处理器的运行速率,特别是在通用处理器负荷较大的情况下,信息处理效率较低、时延较大,对于信息处理的计算模型例如训练模型来说,训练运算的计算量更大,通用的处理器完成训练运算的时间长,效率低。
本申请实施例提供了一种计算装置及方法,可提升运算的处理速度,提高效率。
第一方面,本发明实施例提供了在一种计算装置,所述计算装置用于执行网络模型的计算,所述网络模型包括:神经网络模型和/或非神经网络模型;所述计算装置包括:运算单元、控制器单元以及存储单元,所述存储单元包括:数据输入输出单元;
所述数据输入输出单元,用于获取至少一个输入数据、网络模型以及计算指令,所述至少一个输入数据为定点数据;
所述控制器单元,用于从所述存储单元提取所述计算指令,对该计算指令进行译码以得到一个或多个运算指令;将所述一个或多个运算指令以及所述至少一个输入数据发送给所述运算单元;
所述运算单元,用于根据所述一个或多个运算指令对所述至少一个输入数据执行计算得到计算指令的结果,所述计算指令的结果为浮点数据。
在一种可行的实施例中,所述存储单元还包括:
存储介质,用于存储所述网络模型和所述至少一个输入数据;
标量数据存储单元,用于存储标量数据。
在一种可行的实施例中,所述控制器单元包括:
指令缓存单元,用于存储与所述网络模型关联的计算指令;
指令处理单元,用于对所述计算指令对进行译码,以得到所述一个或多个运算指令;
存储队列单元,用于存储指令队列,该指令队列包括按该队列的前后顺序待执行的一个或多个运算指令或计算指令。
在一种可行的实施例中,所述数据输入输出单元还获取数据转换指令,所述数据转换指令包括操作域和操作码,该操作码用于指示所述数据转换指令的功能,所述数据转换指令的操作域包括输入数据的小数点位置和数据类型的转换方式标识;
所述控制器单元还包括:
所述指令处理单元,还用于当所述至少一个输入数据为浮点数据时,对所述数据转换指令进行解析,以得到所述输入数据的小数点位置和所述数据类型的转换方式标识;
数据转换单元,用于根据所述输入数据的小数点位置和所述数据类型的转换方式标识将所述至少一个输入数据转换为定点数据。
在一种可行的实施例中,所述运算单元包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810207915.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:模型训练和选择推荐信息的方法和装置
- 下一篇:一种模型压缩方法及装置