[发明专利]边缘节点的GPU运行方法、装置、电子设备及介质在审
申请号: | 202210700146.1 | 申请日: | 2022-06-20 |
公开(公告)号: | CN115082286A | 公开(公告)日: | 2022-09-20 |
发明(设计)人: | 陈京来;赵增;刘柏;范长杰;胡志鹏 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06T1/20 | 分类号: | G06T1/20;G06F9/50 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 高燕 |
地址: | 310052 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 边缘 节点 gpu 运行 方法 装置 电子设备 介质 | ||
1.一种边缘节点的GPU运行方法,其特征在于,包括:
获取GPU任务的任务处理信息,所述任务处理信息包括任务标识,所述任务标识用于指示GPU任务的任务类型;
创建与所述任务标识所指示的任务类型对应的Pod;
按照与所述任务标识所指示的任务类型对应的边缘节点搜索策略搜索目标边缘节点;
将所创建的Pod调度到所述目标边缘节点上,以由所述目标边缘节点执行所述GPU任务。
2.根据权利要求1所述的方法,其特征在于,所述任务类型包括GPU独享任务,与GPU独享任务对应的边缘节点搜索策略为基于GPU独享任务针对GPU的设备需求来搜索边缘节点。
3.根据权利要求2所述的方法,其特征在于,按照所述任务需求信息所指示的边缘节点搜索策略搜索目标边缘节点的步骤包括:
确定节点池中的各边缘节点的运行状态,所述运行状态包括工作状态和空闲状态;
将从处于空闲状态的边缘节点中搜索到的满足GPU独享任务针对GPU的设备需求的边缘节点,确定为所述目标边缘节点。
4.根据权利要求1所述的方法,其特征在于,所述任务类型包括GPU共享任务组,与GPU共享任务组对应的边缘节点搜索策略为基于针对GPU共享任务组所预先设置的占用标识来搜索边缘节点。
5.根据权利要求4所述的方法,其特征在于,所述任务处理信息还包括针对GPU共享任务组所预先设置的占用标识,所述GPU共享任务组包括多个共享子任务,
其中,通过以下方式为每个共享子任务确定目标边缘节点:
从节点池的各边缘节点中搜索是否存在具有所述GPU共享任务组对应的占用标识的边缘节点;
若存在,则将搜索到的边缘节点确定为用于执行该共享子任务的目标边缘节点;
若不存在,则从节点池中不执行GPU独享任务的边缘节点中选取一边缘节点,并将所选取的边缘节点确定为用于执行该共享子任务的目标边缘节点。
6.根据权利要求5所述的方法,其特征在于,还包括:
为从不执行GPU独享任务的边缘节点中所选取的边缘节点添加占用标识;
在所述目标边缘节点执行完成GPU共享任务组中的所有共享子任务之后,清除为所述目标边缘节点所添加的占用标识。
7.根据权利要求1所述的方法,其特征在于,将所创建的Pod调度到所述目标边缘节点上,以由所述目标边缘节点执行所述GPU任务的步骤包括:
在启动Pod时,调用GPU设备插件以获得设备环境变量,所述设备环境变量由GPU设备插件通过以下方式获得:获取GPU任务针对GPU的设备需求,按照所述设备需求从所述目标边缘节点中选取GPU,基于所选取的GPU的设备信息生成设备环境变量;
将所获得的设备环境变量注入Pod,并启动容器以执行所述GPU任务。
8.根据权利要求7所述的方法,其特征在于,还包括:
在启动容器时,根据所述设备环境变量中所声明的设备信息,将所述设备信息所指示的GPU映射到容器中,并将所述设备信息所指示的GPU的驱动库也映射到容器中。
9.根据权利要求1所述的方法,其特征在于,还包括:对节点池中的各边缘节点进行节点注册,
其中,通过以下方式为每个边缘节点进行节点注册:
在该边缘节点上构建信息查看工具;
通过该边缘节点上的边缘组件调用信息查看工具,以按照预设信息规范获取GPU状态信息;
通过该边缘节点上的GPU设备插件调用所述边缘组件,以基于所获取的GPU状态信息完成节点注册。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210700146.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种香薰蜡烛整形装置
- 下一篇:一种公路工程用的路面厚度检测装置