[发明专利]一种根据IP分配表更新分布式训练任务连接参数的方法

权利要求书

1.一种根据IP分配表更新分布式训练任务连接参数的方法，其特征在于，包括：

在容器云平台部署分布式训练任务过程中：

在为训练任务部署容器集群时，为子任务创建对应的容器/容器组和提供连接访问服务、以及额外提供RDMA网络接入；所述的子任务是由待训练任务分解的；

在为所述容器集群中的容器/容器组分配RDMA网络IP时，创建IP分配表；所述IP分配表，以所述容器/容器组对应的子任务的环境配置参数中的默认连接参数为容器/容器组名称，记录所述容器集群中容器/容器组的RDMA网络IP；

在所述容器集群部署完成后和启动分布式训练任务前，将所述环境配置参数中的默认连接参数更新为所述容器/容器组的RDMA网络IP。

2.根据权利要求1所述的根据IP分配表更新分布式训练任务连接参数的方法，其特征在于，

所述的提供连接访问服务和RDMA网络接入：

通过多网卡cni为所述容器/容器组提供不少于两个的虚拟网卡接口；其中，

第一网卡接口，用于挂载虚拟网卡；所述容器/容器组通过其接入默认网络；

第二网卡接口，用于挂载虚拟RDMA网卡；所述容器/容器组通过其接入RDMA网络。

3.根据权利要求2所述的根据IP分配表更新分布式训练任务连接参数的方法，其特征在于，

通过sriov-cni为所述容器/容器组提供所述的第二网络接口；

对应地，通过sriov虚拟物理RDMA网卡获得所述虚拟RDMA网卡。

4.一种在容器云上运行的分布式训练任务数据通信的方法，其特征在于，包括：

在容器云平台部署分布式训练任务过程中：

在为训练任务部署容器集群时，为子任务创建对应的容器/容器组和提供连接访问服务、以及额外提供RDMA网络接入；所述的子任务是由待训练任务分解的；

进而以权利要求1-3任一所述的方法，为所述容器集群中的容器/容器组分配RDMA网络IP、以及创建IP分配表，并依据所述IP分配表在启动分布式训练任务前将所述子任务的环境配置参数中的默认连接参数更新为所述容器/容器组的RDMA网络IP；

在运行分布式训练任务时，所述子任务涉及的通信，即通过更新后的RDMA网络IP使用RDMA网络。

5.一种在容器云平台部署分布式训练任务的方法，其特征在于，包括：

将待训练任务分解为若干个子任务；

并为所述子任务生成环境配置参数；

为待训练任务部署容器集群，其中包括：

为所述子任务创建对应的容器/容器组和提供连接访问服务、以及额外提供RDMA网络接入；

以权利要求1-3任一所述的方法，为所述容器集群中的容器/容器组分配RDMA网络IP、以及创建IP分配表，并依据所述IP分配表在启动分布式训练任务前将所述子任务的环境配置参数中的默认连接参数更新为所述容器/容器组的RDMA网络IP；

更新完成后，即启动执行分布式训练任务。

6.一种分布式机器学习容器云平台系统，其特征在于，包括：

分布式训练任务管理单元、任务调度单元和容器云平台；其中，

分布式训练任务管理单元，用于将待训练任务分解为若干个子任务；

任务调度单元，用于调度包括所述子任务在内的各类任务到容器云平台上；其中包括：

为所述各类任务生成环境配置参数和定义容器/容器组；

容器云平台，用于部署容器集群和管理容器集群；其中包括：

根据任务调度单元的定义，为所述子任务创建与之对应的容器/容器组、提供连接访问服务和额外提供RDMA网络接入；

以及以权利要求1-3任一所述的方法，为所述容器集群中的容器/容器组分配RDMA网络IP、以及创建IP分配表，并依据所述IP分配表在启动分布式训练任务前将所述子任务的环境配置参数中的默认连接参数更新为所述容器/容器组的RDMA网络IP；

和在更新完成后，启动执行运行分布式训练任务。