[发明专利]一种可编程人工智能加速器执行单元及人工智能加速方法在审
申请号: | 202210338859.8 | 申请日: | 2022-04-01 |
公开(公告)号: | CN114611711A | 公开(公告)日: | 2022-06-10 |
发明(设计)人: | 翁铄雯 | 申请(专利权)人: | 南京广捷智能科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F9/302;G06F9/30 |
代理公司: | 江苏长德知识产权代理有限公司 32478 | 代理人: | 周艺 |
地址: | 210012 江苏省南京市雨*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 可编程 人工智能 加速器 执行 单元 加速 方法 | ||
1.一种可编程人工智能加速器执行单元,其特征在于,包括:
编码模块,用于获取人工智能加速程序指令,并根据运行该指令所需要算力的大小进行分类编码;
解码模块,根据上述分类编码的结果,对编码后的所述人工智能加速程序指令进行解码,生成程序执行需要的控制信息;
数据执行分配模块,根据所述分类编码结果,将所述控制信息分配到不同的执行模块;
执行模块,根据所述控制信息执行相应的运算操作,并输出执行结果。
2.一种可编程人工智能加速器执行单元,其特征在于,包括:
编码模块,用于获取人工智能加速程序指令,并根据运行该指令所需要算力的大小进行分类编码;
解码模块,根据上述分类编码的结果,对编码后的所述人工智能加速程序指令进行解码,生成程序执行需要的控制信息;
数据分割模块,用于将所述控制信息根据运行指令所需要算力的大小分割成若干个可以单独运行的子控制信息;
数据执行分配模块,根据所述分类编码结果,将所述分割后的子控制信息分配到不同的执行模块;
执行模块,根据所述子控制信息执行相应的运算操作,并输出执行结果;
合成模块,将所述输出的执行结果进行合成运算并输出。
3.根据权利要求2所述的可编程人工智能加速器执行单元,其特征在于,所述编码模块,获取人工智能加速程序指令后,根据所述指令附带的算力请求,确定所述算力请求的类型,基于所述算力请求与当前的指令模型,确定算力参数,进而确定当前人工智能加速程序指令运行所需的算力大小。
4.根据权利要求2所述的可编程人工智能加速器执行单元,其特征在于,所述数据分割模块将待计算控制信息的数据包分割成n个数据块,并在每个数据块内写入分类编码。
5.根据权利要求4所述的可编程人工智能加速器执行单元,其特征在于,所述数据分割模块还生成包含分割信息的文件,并将包含分割信息的文件与n个数据块中的一个数据块绑定,数据分割模块对包含分割信息的文件进行标记。
6.根据权利要求5所述的可编程人工智能加速器执行单元,其特征在于,所述数据执行分配模块根据所述分类编码结果,生成一索引表,索引表包括n个数据块的分配地址,每个数据块的分配地址为一个可支配寄存器的地址。
7.根据权利要求6所述的可编程人工智能加速器执行单元,其特征在于,所述索引表存储在可支配寄存器下,所述数据执行分配模块根据索引表,将n个数据块分别存储至可支配寄存器相应的地址下。
8.根据权利要求6所述的可编程人工智能加速器执行单元,其特征在于,所述执行模块根据所述子控制信息执行相应的运算操作时,根据控制信息,查询索引表,获取n个数据块在可支配寄存器下的地址,分配模块依次在所述n个可支配寄存器上查找具有所述用户编码的数据块,并将分别位于其余的n-1个可支配寄存器上的n-1个数据块复制至合成模块上,合成模块从n个数据块中查找到带有标记的包含分割信息的文件,依据分割信息,将n个数据块合并为数据包,并对合并后的数据包执行计算,得到计算结果,并将用户编码写入至计算结果。
9.一种可编程人工智能加速器加速方法,其特征在于,包括:
S1.获取人工智能加速程序指令,并根据运行该指令所需要算力的大小进行分类编码;
S2.根据上述分类编码的结果,对编码后的所述人工智能加速程序指令进行解码,生成程序执行需要的控制信息;
S3.根据所述分类编码结果,将所述控制信息分配到不同的执行模块;
S4.根据所述控制信息执行相应的运算操作,并输出执行结果。
10.根据权利要求9所述的可编程人工智能加速器加速方法,其特征在于,所述步骤S2与步骤S3之间还包括步骤S23:将所述控制信息根据运行指令所需要算力的大小分割成若干个可以单独运行的子控制信息;所述步骤S4之后还包括步骤S5:将所述输出的执行结果进行合成运算并输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京广捷智能科技有限公司,未经南京广捷智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210338859.8/1.html,转载请声明来源钻瓜专利网。