[发明专利]指令优化方法及装置在审
申请号: | 201911426093.3 | 申请日: | 2019-12-31 |
公开(公告)号: | CN113127062A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 田守政 | 申请(专利权)人: | 深圳云天励飞技术有限公司 |
主分类号: | G06F9/30 | 分类号: | G06F9/30 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 左婷兰 |
地址: | 518000 广东省深圳市龙岗区横岗*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 指令 优化 方法 装置 | ||
本申请适用于人工智能技术领域,提供了一种指令优化方法及装置,所述方法包括:获取监控数据,监控数据为人工智能AI处理器在执行指令组合时,对AI处理器监控得到的,用于记录AI处理器中各个计算单元的运行效率;根据监控数据,结合指令组合进行解析,确定指令组合的优化数据;根据优化数据,对指令组合进行优化。通过获取监控得到的监控数据,并根据该监控数据和指令组合进行分析,确定优化指令组合的优化数据,再根据该优化数据对指令组合进行优化,避免了指令组合中出现冗余重复的指令,减少了AI处理器需要运行的指令,而AI处理器在运行优化后的指令组合时,可以减少运行指令组合所花费的时间,提高了AI处理器运行指令组合的运行效率。
技术领域
本申请属于人工智能技术领域,尤其涉及一种指令优化方法及装置。
背景技术
随着人工智能技术的不断发展,终端设备在搭载AI(Artificial Intelligence,人工智能)处理器后,可以对终端设备的硬件处资源进行智能分配,并对用户对终端设备触发的操作、以及用户的行为进行预测。
相关技术中,终端设备可以通过预先设置的工具链对指令集中的多个指令进行组合,生成代码形式的指令组合,并向AI处理器发送指令组合,则AI处理器可以运行该指令组合,从而可以通过AI处理器中排布的多个计算单元执行矢量运算、浮点运算或卷积计算,进而完成指令组合所指示的功能。
但是,在AI处理器执行二进制指令代码的过程中,由于工具链对指令进行组合编码存在冗余重复的情况,导致AI处理器运行指令组合花费的时间较多,造成效率较低的问题。
发明内容
本申请实施例提供了一种指令优化方法及装置,可以解决运行指令组合花费的时间较多,造成效率较低的问题。
第一方面,本申请实施例提供了一种指令优化方法,包括:
获取监控数据,所述监控数据为人工智能AI处理器在执行指令组合时,对所述AI处理器监控得到的,用于记录所述AI处理器中各个计算单元的运行效率;
根据所述监控数据,结合所述指令组合进行解析,确定所述指令组合的优化数据;
根据所述优化数据,对所述指令组合进行优化。
可选的,所述根据所述监控数据,结合所述指令组合进行解析,确定所述指令组合的优化数据,包括:
对于所述指令组合中的每条指令,判断所述指令是否为常用指令;
若所述指令为常用指令,将封装指令作为所述指令组合的所述优化数据。
可选的,所述将封装指令作为所述指令组合的所述优化数据,包括:
对于所述指令组合中的每条指令,若所述指令在所述指令组合中循环多次出现,将循环封装作为所述指令组合的所述优化数据;
若所述指令在所述指令组合中随机多次出现,将函数调用封装作为所述指令组合的所述优化数据。
可选的,在所述根据所述优化数据,对所述指令组合进行优化之后,所述方法还包括:
获取多个指令组合,每个所述指令组合是根据上一指令组合优化得到的;
确定每个所述指令组合对应的监控数据;
根据多个所述监控数据,从多个所述指令组合中确定目标指令组合,所述目标指令组合对应的监控数据所指示的所述AI处理器中各个所述计算单元的运行效率最高。
可选的,在所述获取监控数据之前,所述方法还包括:
从预先设置的指令集中获取多个指令;
根据各个所述指令之间的逻辑关系,生成所述指令组合;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术有限公司,未经深圳云天励飞技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911426093.3/2.html,转载请声明来源钻瓜专利网。