[发明专利]八位整形转半精度浮点指令处理装置、方法及相关产品在审
申请号: | 201910743065.8 | 申请日: | 2019-08-13 |
公开(公告)号: | CN112394996A | 公开(公告)日: | 2021-02-23 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F9/30 | 分类号: | G06F9/30;G06N3/063 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 八位 整形 精度 浮点 指令 处理 装置 方法 相关 产品 | ||
1.一种八位整形转半精度浮点指令处理装置,其特征在于,所述装置包括:
控制模块,用于对获取到的八位整形转半精度浮点指令进行解析,得到所述八位整形转半精度浮点指令的操作域中的源地址和目的地址;
执行模块,用于在所述源地址提取八位整形型张量,转换为半精度浮点型张量后存储在所述目的地址。
2.根据权利要求1所述的装置,其特征在于,
所述控制模块,还用于得到所述八位整形转半精度浮点指令的操作域中的元素数量;
所述执行模块,还用于根据所述元素数量在所述源地址提取八位整形型元素中的待转换元素,将所述待转换元素转换为半精度浮点型张量后存储在所述目的地址。
3.根据权利要求2所述的装置,其特征在于,
所述控制模块,还用于得到所述八位整形转半精度浮点指令的操作域中的转换次数;
所述执行模块,还用于根据所述元素数量在所述源地址提取八位整形型元素中的待转换元素,将所述待转换元素转换为半精度浮点型张量后存储在所述目的地址,所述执行模块根据所述转换次数重复执行上述步骤,且每次提取的待转换元素不重叠。
4.一种机器学习运算装置,其特征在于,所述装置包括:
一个或多个如权利要求1-3任一项所述的八位整形转半精度浮点指令处理装置,用于从其他处理装置中获取待运算数据和控制信息,并执行指定的机器学习运算,将执行结果通过I/O接口传递给其他处理装置;
当所述机器学习运算装置包含多个所述八位整形转半精度浮点指令处理装置时,所述多个所述八位整形转半精度浮点指令处理装置间可以通过特定的结构进行连接并传输数据;
其中,多个所述八位整形转半精度浮点指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据,以支持更大规模的机器学习的运算;多个所述八位整形转半精度浮点指令处理装置共享同一控制系统或拥有各自的控制系统;多个所述八位整形转半精度浮点指令处理装置共享内存或者拥有各自的内存;多个所述八位整形转半精度浮点指令处理装置的互联方式是任意互联拓扑。
5.一种组合处理装置,其特征在于,所述组合处理装置包括:
如权利要求4所述的机器学习运算装置、通用互联接口和其他处理装置;
所述机器学习运算装置与所述其他处理装置进行交互,共同完成用户指定的操作,
其中,所述组合处理装置还包括:存储装置,该存储装置分别与所述机器学习运算装置和所述其他处理装置连接,用于保存所述机器学习运算装置和所述其他处理装置的数据。
6.一种机器学习芯片,其特征在于,所述机器学习芯片包括:
如权利要求4所述的机器学习运算装置或如权利要求16所述的组合处理装置。
7.一种电子设备,其特征在于,所述电子设备包括:
如权利要求6所述的机器学习芯片。
8.一种板卡,其特征在于,所述板卡包括:存储器件、接口装置和控制器件以及如权利要求6所述的机器学习芯片;
其中,所述机器学习芯片与所述存储器件、所述控制器件以及所述接口装置分别连接;
所述存储器件,用于存储数据;
所述接口装置,用于实现所述机器学习芯片与外部设备之间的数据传输;
所述控制器件,用于对所述机器学习芯片的状态进行监控。
9.一种八位整形转半精度浮点指令处理处理方法,其特征在于,所述方法应用于八位整形转半精度浮点指令处理装置,所述方法包括:
对获取到的八位整形转半精度浮点指令进行解析,得到所述八位整形转半精度浮点指令的操作域中的源地址和目的地址;
在所述源地址提取八位整形型张量,转换为半精度浮点型张量后存储在所述目的地址。
10.根据权利要求9所述的方法,其特征在于,所述对获取到的八位整形转半精度浮点指令进行解析,得到所述八位整形转半精度浮点指令的操作域中的源地址和目的地址,还包括:
得到所述八位整形转半精度浮点指令的操作域中的元素数量;
所述在所述源地址提取八位整形型张量,转换为半精度浮点型张量后存储在所述目的地址,还包括:
根据所述元素数量在所述源地址提取八位整形型元素中的待转换元素,将所述待转换元素转换为半精度浮点型张量后存储在所述目的地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910743065.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种叶片可折叠的扫风组件及具有其的空调器
- 下一篇:用神针法