[发明专利]计算图执行方法、计算机设备及存储介质有效
申请号: | 201911230228.9 | 申请日: | 2019-12-04 |
公开(公告)号: | CN111160551B | 公开(公告)日: | 2023-09-29 |
发明(设计)人: | 请求不公布姓名 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/084;G06N3/063;G06N3/0442;G06N3/0464 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 执行 方法 计算机 设备 存储 介质 | ||
1.一种计算图执行方法,其特征在于,包括:
通用处理器对具有融合算子的计算图进行编译时,根据所述融合算子的操作指令获得所述计算图对应人工智能处理器执行的二进制指令;其中,所述融合算子是所述通用处理器对原始计算图中能够运行在人工智能处理器上的算子融合为一个算子;所述融合算子的操作指令获得步骤包括:
通用处理器根据原始计算图中算子的执行设备对所述算子进行第一次划分,获得原始子图;其中,所述执行设备包括通用处理器和人工智能处理器;
所述通用处理器根据所述人工智能处理器的学习库中算子的规则对所述原始子图中的算子进行检查,根据检查结果对所述原始子图作第二次划分,获得目标子图;
所述通用处理器对所述目标子图进行编译,获得所述融合算子对应的操作指令;其中,获得原始子图的步骤包括:
获取所述原始计算图,从所述原始计算图中确定第一类算子;其中,所述第一类算子对应的操作指令能够运行在人工智能处理器上;
根据所述原始计算图中算子之间具有的有向边,获取所述第一类算子构成的计算图,在所述第一类算子构成的计算图中提取原始子图;其中,所述原始子图包含多个输入算子和/或多个输出算子;所有原始子图构成原始子图集合;
获得目标子图的步骤包括:
所述通用处理器根据所述人工智能处理器的学习库中算子的规则对所述原始子图中的算子进行检查,获得检查结果;
利用检查结果,对所述原始子图中没有通过检查的算子删除,将所述原始子图中剩余算子构成的计算图进行剪枝,得到对应的目标子图;其中,所述目标子图包含一个输入算子和一个输出算子。
2.如权利要求1所述的方法,其特征在于,将所述原始子图中剩余算子构成的计算图进行剪枝的步骤包括:
所述原始子图中剩余算子构成的计算图中包含一个输入算子和多个输出算子、多个输入算子和一个输出算子、多个输入算子和多个输出算子中的至少一种的情况下,对所述原始子图中剩余算子构成的计算图进行迭代剪枝,得到目标子图。
3.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含一个输入算子和多个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:
根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输出算子为起始点,反向遍历对应所述原始子图中剩余算子构成的计算图,遍历到其他的输出算子作为遍历终止条件;在满足反向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。
4.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含多个输入算子和一个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:
根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输入算子为起始点,正向遍历对应所述原始子图中剩余算子构成的计算图,遍历到其他的输入算子作为遍历终止条件;在满足正向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。
5.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含多个输入算子和多个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:
根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输入算子为起始点,正向遍历所述原始子图集合中每个原始子图,遍历到其他的输入算子作为遍历终止条件;在满足正向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝;
根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输出算子为起始点,反向遍历所述原始子图集合中未获得目标子图的原始子图,遍历到其他的输出算子作为遍历终止条件;在满足反向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911230228.9/1.html,转载请声明来源钻瓜专利网。