[发明专利]利用链接指令的神经网络处理有效
申请号: | 201880013993.2 | 申请日: | 2018-02-08 |
公开(公告)号: | CN110352435B | 公开(公告)日: | 2023-10-27 |
发明(设计)人: | J·弗沃斯;E·S·钟;D·C·伯格 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F9/48;G06N3/044;G06N3/0442;H03K19/17748;G06F9/30;G06F9/38 |
代理公司: | 北京世辉律师事务所 16093 | 代理人: | 王俊 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 利用 链接 指令 神经网络 处理 | ||
1.一种在包括全局寄存器和流水线的硬件节点中用于处理指令的方法,所述流水线包括:矩阵矢量单元,所述矩阵矢量单元包括至少一个累加器寄存器;第一多功能单元,其中所述第一多功能单元被连接以接收来自所述矩阵矢量单元的输入;第二多功能单元,其中所述第二多功能单元被连接以接收来自所述第一多功能单元的输出;以及第三多功能单元,其中所述第三多功能单元被连接以接收来自所述第二多功能单元的输出,所述方法包括:
经由所述全局寄存器从输入队列接收第一类型指令,其中所述第一类型指令只能由所述矩阵矢量单元执行,并且由所述矩阵矢量单元执行所述第一类型指令并将所述第一类型指令的第一结果存储在所述至少一个累加器寄存器中;
经由所述全局寄存器从所述输入队列接收第二类型指令,其中所述第二类型指令只能由所述第一多功能单元、所述第二多功能单元或所述第三多功能单元中的至少一个执行,并且使用所述第一多功能单元执行所述第二类型指令,其中所述执行包括对至少所述第一类型指令的所述第一结果执行操作并生成第二结果;以及
在不将所述第一结果或所述第二结果存储在所述全局寄存器中的情况下,将所述第二结果传递给所述第二多功能单元并且之后将所述第二结果传递给所述第三多功能单元。
2.根据权利要求1所述的方法,其中所述第一多功能单元、所述第二多功能单元和所述第三多功能单元中的每一个还包括:逐点加法块、逐点乘法块、S型块、双曲正切块和无操作块。
3.根据权利要求1所述的方法,还包括:在将所述第二结果传递给所述第三多功能单元之后,将所述第二结果传递给被耦合到所述流水线的输出队列。
4.根据权利要求1所述的方法,其中所述第一类型指令包括矢量类型的指令,并且所述第二类型指令包括标量类型的指令。
5.根据权利要求1所述的方法,其中所述第一类型指令包括存储指示符,所述存储指示符使得所述第一结果被存储在所述至少一个累加器寄存器中。
6.根据权利要求1所述的方法,其中所述第二类型指令包括前向指示符,所述前向指示符使得所述第二结果被传递给所述流水线中的下一个单元。
7.根据权利要求1所述的方法,其中所述第一类型指令和所述第二类型指令包括指令链。
8.一种硬件节点,包括:
全局寄存器;
被配置为处理指令的流水线,所述流水线包括:矩阵矢量单元,所述矩阵矢量单元包括至少一个累加器寄存器;第一多功能单元,其中所述第一多功能单元被连接以接收来自所述矩阵矢量单元的输入;第二多功能单元,其中所述第二多功能单元被连接以接收来自所述第一多功能单元的输出;以及第三多功能单元,其中所述第三多功能单元被连接以接收来自所述第二多功能单元的输出;并且
其中所述硬件节点还被配置为:
经由所述全局寄存器从输入队列接收第一类型指令,其中所述第一类型指令只能由所述矩阵矢量单元执行,并且由所述矩阵矢量单元执行所述第一类型指令并将所述第一类型指令的第一结果存储在所述至少一个累加器寄存器中,经由所述全局寄存器从所述输入队列接收第二类型指令,其中所述第二类型指令只能由所述第一多功能单元、所述第二多功能单元或所述第三多功能单元中的至少一个执行,并且使用所述第一多功能单元执行所述第二类型指令,其中所述执行包括对至少所述第一类型指令的所述第一结果执行操作并生成第二结果,以及
在不将所述第一结果或所述第二结果存储在所述全局寄存器中的情况下,将所述第二结果传递给所述第二多功能单元并且之后将所述第二结果传递给所述第三多功能单元。
9.根据权利要求8所述的硬件节点,其中所述第一多功能单元、所述第二多功能单元和所述第三多功能单元中的每一个还包括:逐点加法块、逐点乘法块、S型块、双曲正切块和无操作块。
10.根据权利要求8所述的硬件节点,其中所述硬件节点还被配置为:在将所述第二结果传递给所述第三多功能单元之后,将所述第二结果传递给被耦合到所述流水线的输出队列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201880013993.2/1.html,转载请声明来源钻瓜专利网。