[发明专利]用于应用迁移的方法和机器

说明书

本公开的实施例提供了用于应用迁移的方法和机器。在一个实施例中，从第一专用处理单元获取与正在第一专用处理单元上运行的应用的运行环境相关联的第一描述符。响应于确定应用要在运行过程中从第一专用处理单元被迁移到第二专用处理单元，促使第二专用处理单元创建与用于应用的运行环境相关联的第二描述符。继而，从第二专用处理单元获取第二描述符，并且建立第一描述符到第二描述符的第一映射，以用于将来自应用的针对第一专用处理单元的请求重定向到第二专用处理单元。还公开了实施该方法的相应的机器。

技术领域

本公开的实施例总体上涉及计算机技术，更具体地，涉及用于应用迁移的方法和机器。

背景技术

如今越来越多的公共云为高性能计算(HPC)、机器学习(ML)或深度学习(DL)、人工智能(AI)等新兴计算场景中的数据处理和分析等任务提供图形处理单元(GPU)实例。这些GPU实例可以灵活配置并且易于扩展，从而可以为本地客户端或者计算设备提供较具弹性的计算服务。

为了使云端的GPU实例能够更好地服务于上述新兴计算场景，已经提出了一种智能且优化的基础设施，其中允许GPU加速器、现场可编程门阵列(FPGA)加速器等现代加速器像中央处理单元(CPU)和存储设备一样作为基础架构的组成部分，成为现代数据中心或者云中第一等级的可管理资源。特别地，还提出了GPU作为服务(GPUaaS)的解决方案，其可以基于远程直接内存访问(RDMA)或传输控制协议(TCP)的组织架构并且基于客户端-服务器软件来实现。这种解决方案可以在远程服务器上为客户端提供池化和远程虚拟化的GPU资源。

在这样的GPU部署场景中，来自相同或不同客户端的多个应用可以被调度在同一GPU中运行。在这种情况下，如果可以考虑GPU负载、应用的服务质量(QoS)要求、或者资源利用率等因素而使运行中的应用在GPU之间动态迁移，则系统的整体性能可以被显著提高。

发明内容

总体上，本公开的实施例提出了用于应用迁移的方法和机器。

在第一方面，本公开的实施例提供了一种用于应用迁移的方法。该方法包括：从第一专用处理单元获取与正在所述第一专用处理单元上运行的应用的运行环境相关联的第一描述符；响应于确定所述应用要在运行过程中从所述第一专用处理单元被迁移到第二专用处理单元，促使所述第二专用处理单元创建与用于所述应用的运行环境相关联的第二描述符；从所述第二专用处理单元获取所述第二描述符；以及建立所述第一描述符到所述第二描述符的第一映射，以用于将来自所述应用的针对所述第一专用处理单元的请求重定向到所述第二专用处理单元。

在第二方面，本公开的实施例提供了一种用于应用迁移的机器。该机器包括中央处理单元以及存储有指令的存储器。该指令在被中央处理单元执行时促使中央处理单元执行根据第一方面的方法。

在第三方面，本公开的实施例提供了一种非瞬态计算机可读介质，其上有形地存储机器可执行指令。该机器可执行指令在机器中被执行时，使机器执行根据第一方面的方法。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了本公开的实施例可以在其中被实现的计算系统的示意图；

图2根据本公开的某些实施例的计算系统的示意图；

图3示出了根据本公开的某些实施例的机器中的迁移模块与专用处理单元之间的通信和处理过程；

图4示出了根据本公开的某些实施例的迁移模块的框图；

图5示出了根据本公开的某些实施例的方法的流程图；