[发明专利]计算图执行方法、计算机设备及存储介质有效

专利信息
申请号: 201911230228.9 申请日: 2019-12-04
公开(公告)号: CN111160551B 公开(公告)日: 2023-09-29
发明(设计)人: 请求不公布姓名 申请(专利权)人: 上海寒武纪信息科技有限公司
主分类号: G06N3/082 分类号: G06N3/082;G06N3/084;G06N3/063;G06N3/0442;G06N3/0464
代理公司: 暂无信息 代理人: 暂无信息
地址: 201306 上海*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 计算 执行 方法 计算机 设备 存储 介质
【权利要求书】:

1.一种计算图执行方法,其特征在于,包括:

通用处理器对具有融合算子的计算图进行编译时,根据所述融合算子的操作指令获得所述计算图对应人工智能处理器执行的二进制指令;其中,所述融合算子是所述通用处理器对原始计算图中能够运行在人工智能处理器上的算子融合为一个算子;所述融合算子的操作指令获得步骤包括:

通用处理器根据原始计算图中算子的执行设备对所述算子进行第一次划分,获得原始子图;其中,所述执行设备包括通用处理器和人工智能处理器;

所述通用处理器根据所述人工智能处理器的学习库中算子的规则对所述原始子图中的算子进行检查,根据检查结果对所述原始子图作第二次划分,获得目标子图;

所述通用处理器对所述目标子图进行编译,获得所述融合算子对应的操作指令;其中,获得原始子图的步骤包括:

获取所述原始计算图,从所述原始计算图中确定第一类算子;其中,所述第一类算子对应的操作指令能够运行在人工智能处理器上;

根据所述原始计算图中算子之间具有的有向边,获取所述第一类算子构成的计算图,在所述第一类算子构成的计算图中提取原始子图;其中,所述原始子图包含多个输入算子和/或多个输出算子;所有原始子图构成原始子图集合;

获得目标子图的步骤包括:

所述通用处理器根据所述人工智能处理器的学习库中算子的规则对所述原始子图中的算子进行检查,获得检查结果;

利用检查结果,对所述原始子图中没有通过检查的算子删除,将所述原始子图中剩余算子构成的计算图进行剪枝,得到对应的目标子图;其中,所述目标子图包含一个输入算子和一个输出算子。

2.如权利要求1所述的方法,其特征在于,将所述原始子图中剩余算子构成的计算图进行剪枝的步骤包括:

所述原始子图中剩余算子构成的计算图中包含一个输入算子和多个输出算子、多个输入算子和一个输出算子、多个输入算子和多个输出算子中的至少一种的情况下,对所述原始子图中剩余算子构成的计算图进行迭代剪枝,得到目标子图。

3.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含一个输入算子和多个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:

根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输出算子为起始点,反向遍历对应所述原始子图中剩余算子构成的计算图,遍历到其他的输出算子作为遍历终止条件;在满足反向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。

4.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含多个输入算子和一个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:

根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输入算子为起始点,正向遍历对应所述原始子图中剩余算子构成的计算图,遍历到其他的输入算子作为遍历终止条件;在满足正向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。

5.根据权利要求2所述的方法,其特征在于,在满足所述原始子图中剩余算子构成的计算图包含多个输入算子和多个输出算子的情况下,对所述原始子图中剩余算子构成的计算图进行剪枝,包括:

根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输入算子为起始点,正向遍历所述原始子图集合中每个原始子图,遍历到其他的输入算子作为遍历终止条件;在满足正向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝;

根据所述原始子图中剩余算子构成的计算图中算子之间具有的有向边,在同一所述原始子图中剩余算子构成的计算图中,以所述原始子图中剩余算子构成的计算图的输出算子为起始点,反向遍历所述原始子图集合中未获得目标子图的原始子图,遍历到其他的输出算子作为遍历终止条件;在满足反向遍历到的算子构成的计算图为目标子图的情况下,停止迭代剪枝。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911230228.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top