[发明专利]服务运行方法、装置和电子设备在审
申请号: | 202111088174.4 | 申请日: | 2021-09-16 |
公开(公告)号: | CN113791908A | 公开(公告)日: | 2021-12-14 |
发明(设计)人: | 李志超;齐思凯;刘哲瑞;朱亦博;郭传雄;谭丞;张健;王剑 | 申请(专利权)人: | 脸萌有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06N3/04 |
代理公司: | 泰和泰律师事务所 51219 | 代理人: | 祝海燕 |
地址: | 英国开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务 运行 方法 装置 电子设备 | ||
本公开的实施例公开了服务运行方法、装置和电子设备。该方法的一具体实施方式包括:根据服务集合中每个服务的性能数据,确定GPU的目标部署方式,其中,部署方式包括从GPU划分具有相应大小的子GPU和确定每个子GPU用于运行的服务;对于服务集合中的服务,将该服务从运行于当前部署方式指示的子GPU,切换至运行于目标部署方式指示的子GPU。该实施方式在通过GPU运行多个服务时,可以降低GPU的浪费。
技术领域
本公开的实施例涉及计算机技术领域,尤其涉及一种服务运行方法、装置和电子设备。
背景技术
在一些场景中,经常使用GPU(Graphics Processing Unit,图形处理器)运行服务。因此,合理使用GPU,可以减少GPU的浪费。
在相关技术中,随机将GPU划分为多个子GPU,而后在各个子GPU上运行相应的服务。
发明内容
提供该公开内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该公开内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的实施例提供了一种服务运行方法、装置和电子设备,在通过GPU运行多个服务时,可以降低GPU的浪费。
第一方面,本公开的实施例提供了一种服务运行方法,该方法包括:根据服务集合中每个服务的性能数据,确定GPU的目标部署方式,其中,部署方式包括从GPU划分具有相应大小的子GPU和确定每个子GPU用于运行的服务;对于服务集合中的服务,将该服务从运行于当前部署方式指示的子GPU,切换至运行于目标部署方式指示的子GPU。
第二方面,本公开的实施例提供了一种服务运行装置,该装置包括:确定单元,用于根据服务集合中每个服务的性能数据,确定GPU的目标部署方式,其中,部署方式包括从GPU划分具有相应大小的子GPU和确定每个子GPU用于运行的服务;切换单元,用于对于服务集合中的服务,将该服务从运行于当前部署方式指示的子GPU,切换至运行于目标部署方式指示的子GPU。
第三方面,本公开的实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面所述的服务运行方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面所述的服务运行方法的步骤。
本公开的实施例提供的服务运行方法、装置和电子设备,根据服务集合中每个服务的性能数据,合理确定GPU的目标部署方式,进一步,可以合理利用GPU运行服务集合中的服务。从而,在通过GPU运行多个服务时,可以降低GPU的浪费。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其它特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开的服务运行方法的一些实施例的流程图;
图2是本公开的服务运行方法在一些实施例中部署方式的示意图;
图3是本公开的服务运行方法的一些实施例的流程图;
图4是本公开的服务运行方法的一些实施例的流程图;
图5是本公开的服务运行方法在一些实施例中使用交叉算法和变异算法的示意图;
图6是本公开的服务运行方法的一些实施例的流程图;
图7是本公开的服务运行方法的一些实施例的流程图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于脸萌有限公司,未经脸萌有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111088174.4/2.html,转载请声明来源钻瓜专利网。