[发明专利]深度学习任务处理方法、系统、装置、设备及介质在审
申请号: | 202310573958.9 | 申请日: | 2023-05-19 |
公开(公告)号: | CN116483482A | 公开(公告)日: | 2023-07-25 |
发明(设计)人: | 王海峰;杨嘉彬;胡晓光;刘红雨;马艳军;于佃海 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F9/448 | 分类号: | G06F9/448;G06N3/0464;G06N3/08 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 鄢功军 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 深度 学习 任务 处理 方法 系统 装置 设备 介质 | ||
1.一种深度学习任务处理方法,包括:
响应于任务处理请求,基于所述任务处理请求携带的模式标识,确定所述任务处理请求携带的深度学习任务的任务执行模式,其中,所述深度学习任务包括多个运算操作,所述任务执行模式包括动态图执行模式和静态图执行模式;以及
基于所述任务执行模式,处理所述深度学习任务。
2.根据权利要求1所述的方法,其中,所述基于所述任务执行模式,处理所述深度学习任务,包括:
在所述任务执行模式为动态图执行模式的情况下,依次对于每个所述运算操作,基于算子库包括的多个框架算子,确定与所述运算操作对应的第一组合算子;
基于与所述运算操作对应的第一组合算子,得到与所述运算操作对应的第一执行代码;以及
利用执行器运行与所述运算操作对应的第一执行代码,以处理所述深度学习任务。
3.根据权利要求2所述的方法,其中,所述基于算子库包括的多个框架算子,确定与所述运算操作对应的第一组合算子,包括:
在确定所述多个框架算子中存在与所述运算操作匹配的第一目标框架算子的情况下,确定所述第一目标框架算子为所述第一组合算子。
4.根据权利要求2所述的方法,其中,所述基于算子库包括的多个框架算子,确定与所述运算操作对应的第一组合算子,包括:
在确定所述多个框架算子均与所述运算操作不匹配的情况下,将所述运算操作拆分为多个第一基础算子;以及
基于所述多个第一基础算子,得到所述第一组合算子。
5.根据权利要求1所述的方法,其中,所述任务处理请求包括编译器使用标识。
6.根据权利要求5所述的方法,其中,所述基于所述任务执行模式,处理所述深度学习任务,包括:
在所述任务执行模式为静态图执行模式,且所述编译器使用标识表示为使用编译器的情况下,基于所述多个运算操作,生成静态运算图;
利用深度学习编译器处理所述静态运算图,得到第二执行代码;以及
利用执行器运行所述第二执行代码,以处理所述深度学习任务。
7.根据权利要求6所述的方法,其中,所述基于所述多个运算操作,生成静态运算图,包括:
分别对于每个所述运算操作,将所述运算操作拆分为多个第二基础算子;以及
基于与所述多个运算操作各自对应的多个第二基础算子,生成所述静态运算图。
8.根据权利要求6所述的方法,其中,所述基于所述多个运算操作,生成静态运算图,包括:
获取所述多个运算操作各自的拆分标识;
对于所述多个运算操作中拆分标识表示为需要拆分的第一运算操作,将所述第一运算操作拆分为多个第三基础算子;
对于所述多个运算操作中拆分标识表示为无需拆分的第二运算操作,从所述算子库中确定与所述第二运算操作对应的第二目标框架算子;以及
基于与至少一个所述第一运算操作各自对应的多个第三基础算子和与至少一个所述第二运算操作各自对应的第二目标框架算子,生成所述静态运算图。
9.根据权利要求8所述的方法,其中,所述利用深度学习编译器处理所述静态运算图,得到第二执行代码,包括:
利用所述深度学习编译器处理至少一个所述第一运算操作各自对应的多个第三基础算子,得到至少一个第一执行子代码;
基于与至少一个所述第二运算操作各自对应的第二目标框架算子,得到至少一个第二执行子代码;以及
基于所述至少一个第一执行子代码和所述至少一个第二执行子代码,得到所述第二执行代码。
10.根据权利要求8或9所述的方法,还包括:
基于控制列表,确定所述多个运算操作各自的拆分标识。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310573958.9/1.html,转载请声明来源钻瓜专利网。