[发明专利]人工智能加速器、设备、芯片以及数据处理方法有效
申请号: | 202010140537.3 | 申请日: | 2020-03-03 |
公开(公告)号: | CN111352896B | 公开(公告)日: | 2022-06-24 |
发明(设计)人: | 孟玉 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F15/78 | 分类号: | G06F15/78;G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强;杜维 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 人工智能 加速器 设备 芯片 以及 数据处理 方法 | ||
1.一种人工智能加速器,其特征在于,包括指令解析单元、指令调度单元以及处理引擎集合;
所述指令解析单元,用于读取目标长指令,所述目标长指令是对并行排布的目标神经网络模型进行适配生成的指令;所述目标长指令包括第一单位指令和第二单位指令;所述第一单位指令包括第一引擎标识集合以及第一配置信息集合;所述第二单位指令包括第二引擎标识集合以及第二配置信息集合;所述第一单位指令和第二单位指令为两个相邻单位指令;引擎标识是处理引擎对应的身份标志信息,配置信息包含处理引擎进行工作时所需要的参数,引擎标识和配置信息是一一对应关系;
所述指令调度单元,用于按照所述第一引擎标识集合从所述处理引擎集合中抽取第一处理引擎子集,并按照所述第二引擎标识集合从所述处理引擎集合中抽取第二处理引擎子集;以及,根据所述第一配置信息集合调用所述第一处理引擎子集执行第一业务处理集合;当所述第一处理引擎子集中存在处理引擎执行完毕时,根据所述第二配置信息集合调用所述第二处理引擎子集执行第二业务处理集合,第一业务处理集合中的所有业务处理是并发或并行执行的,第二业务处理集合中的所有业务处理是并发或并行执行的。
2.根据权利要求1所述的人工智能加速器,其特征在于,对并行排布的目标神经网络模型进行适配生成的指令被存储在长指令集合中,所述目标长指令是所述长指令集合中的任意一个;
所述人工智能加速器还包括:指令编译单元、指令队列单元以及片外缓存单元;
指令编译单元,用于按照执行顺序将所述目标神经网络模型并行排布为多条短指令流水,将所述多条短指令流水编译为所述长指令集合,将所述长指令集合存储至所述片外缓存单元;
指令队列单元,用于从所述片外缓存单元读取所述目标长指令,并缓存所述目标长指令以供所述指令解析单元读取。
3.根据权利要求2所述的人工智能加速器,其特征在于,当所述目标长指令执行完毕时,所述指令解析单元从所述指令队列单元读取下一个目标长指令。
4.根据权利要求2所述的人工智能加速器,其特征在于,所述第一处理引擎子集包括搬入引擎、卷积引擎以及池化引擎;所述第一配置信息集合包括与所述搬入引擎对应的第一地址信息和第二地址信息、与所述卷积引擎对应的第三地址信息和第四地址信息,以及与所述池化引擎对应的第五地址信息和第六地址信息;所述第一业务处理集合包括数据搬入处理、数据卷积处理以及数据池化处理;
所述搬入引擎,用于将所述第一地址信息对应的第一存储单元所存储的待搬移数据搬入至所述第二地址信息对应的第二存储单元;
所述卷积引擎,用于对所述第三地址信息对应的第三存储单元存储的待卷积数据执行卷积处理,并将卷积处理后得到的卷积结果数据存储至所述第四地址信息对应的第四存储单元;所述待卷积数据是所述指令调度单元根据前一个目标长指令调用所述搬入引擎搬入至所述第三存储单元的;
所述池化引擎,用于对所述第五地址信息对应的第五存储单元所存储的待池化数据执行池化处理,并将池化处理后得到的池化结果数据存储至所述第六地址信息对应的第六存储单元;所述待池化数据是所述指令调度单元根据所述前一个目标长指令调用所述卷积引擎卷积处理后存储至所述第五存储单元的;所述搬入引擎、所述卷积引擎以及所述池化引擎是并发执行。
5.根据权利要求4所述的人工智能加速器,其特征在于,所述第二处理引擎子集包括搬出引擎;所述第二配置信息集合包括与所述搬出引擎对应的所述第六地址信息和第七地址信息;所述第二业务处理集合包括数据搬出处理;
当所述第一处理引擎子集中的所述池化引擎执行完毕时,所述搬出引擎将所述第六存储单元存储的所述池化结果数据搬出至所述第七地址信息对应的第七存储单元。
6.根据权利要求5所述的人工智能加速器,其特征在于,当所述搬入引擎和所述卷积引擎均未执行完毕时,所述搬入引擎继续对所述待搬移数据执行数据搬入处理,所述卷积引擎继续对所述待卷积数据执行数据卷积处理;所述搬入引擎、所述卷积引擎和所述搬出引擎是并发执行。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010140537.3/1.html,转载请声明来源钻瓜专利网。