[发明专利]虚拟机迁移的方法在审
申请号: | 202111655441.1 | 申请日: | 2021-12-30 |
公开(公告)号: | CN114721769A | 公开(公告)日: | 2022-07-08 |
发明(设计)人: | 赵志彪;程越强 | 申请(专利权)人: | 百度(美国)有限责任公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F21/62;G06F21/64 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 杜月 |
地址: | 美国加利福尼亚*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 虚拟机 迁移 方法 | ||
1.一种迁移源虚拟机(VM-S)的方法,所述源虚拟机正在执行访问人工智能(AI)加速器的虚拟功能的应用,所述方法包括:
响应于接收到迁移VM-S和虚拟功能的命令,并且接收到执行迁移中使用的VM-S和虚拟功能的检查点的选择:
记录,然后停止,应用的一个或多个正在执行的AI任务,
生成或选择与虚拟功能相关联的AI加速器的状态,以及
将AI加速器的检查点和状态传输到目标主机的管理程序,以生成迁移后的目标虚拟机(VM-T);以及
响应于接收到目标主机验证了检查点和AI状态,并且已经生成并配置了用于生成VM-T的资源,并且已经利用来自AI加速器状态的数据加载了目标主机上的AI加速器的通知:
将VM-S和虚拟功能迁移到VM-T。
2.根据权利要求1所述的方法,进一步包括:
响应于接收到VM-T已重新启动应用和AI任务的通知,执行VM-S和虚拟功能的迁移后清理,包括:
至少擦除AI加速器的安全存储器,包括任何AI推理、AI模型、安全计算的中间结果、或其部分;以及
擦除与虚拟功能关联的VM-S的存储器以及应用对虚拟功能的任何调用。
3.根据权利要求1所述的方法,进一步包括:
将虚拟功能和VM-S的状态的检查点存储到VM-S的多个检查点的存储中,其中VM-S的每个检查点包括VM-S的资源的状态、应用的状态、以及与AI加速器的资源相关联的虚拟功能的状态。
4.根据权利要求3所述的方法,其中所述检查点进一步包括:
一个或多个正在执行的AI任务的记录;
与VM-S通信耦接的AI加速器内的资源的配置信息;
VM-S的存储器的快照,包括一个或多个AI加速器内的通信缓存器和虚拟功能调度信息;以及
检查点的日期和时间戳。
5.根据权利要求1所述的方法,其中生成AI加速器的状态包括:
在AI加速器状态中存储状态的日期和时间戳;
在AI加速器状态中存储AI加速器内的存储器的内容,包括与AI加速器的处理器相关联的一个或多个寄存器,以及待由AI加速器处理的未决指令的缓存、队列或流水线;以及
生成AI加速器状态的哈希,并对状态、哈希以及日期和时间戳进行数字签名。
6.根据权利要求5所述的方法,其中,AI加速器状态进一步包括指示AI加速器被配置为与之通信的AI加速器集群中的一个或多个其他AI加速器的一个或多个寄存器设置。
7.根据权利要求1所述的方法,其中验证AI加速器状态的签名和新鲜性包括:
使用VM-S的公钥解密AI状态的签名;
确定AI加速器状态的日期和时间戳在阈值日期和时间范围内;以及
验证AI加速器状态的哈希。
8.一种编程有可执行指令的计算机可读介质,当由具有通信耦接到人工智能(AI)处理器的至少一个硬件处理器的处理系统执行可执行指令时,实现如权利要求1至7中任一项所述的迁移正在执行访问系统的人工智能(AI)加速器的虚拟功能的应用的源虚拟机(VM-S)的操作。
9.一种系统,包括至少一个硬件处理器,所述至少一个硬件处理耦接到编程有指令的存储器,当由所述至少一个硬件处理器执行所述指令时,使所述系统实现如权利要求1-7中任一项所述的用于迁移正在执行访问人工智能(AI)加速器的虚拟功能的应用的源虚拟机(VM-S)的操作。
10.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如权利要求1-7中任一项所述的用于迁移正在执行访问人工智能(AI)加速器的虚拟功能的应用的源虚拟机(VM-S)的操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度(美国)有限责任公司,未经百度(美国)有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111655441.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种轨道式连续管作业机
- 下一篇:晶片研磨用托板以及晶片研磨装置