[发明专利]一种面向分布式机器学习任务的动态定价和部署方法

权利要求书

1.一种面向分布式机器学习任务的动态定价和部署方法，其特征在于，包括：

一个云服务提供商提供给用户K种类型的计算节点和M种类型的参数服务器节点，这些节点位于S个不同位置的服务器上，其中，第k类的计算节点资源量为C_k，第m类的参数服务器节点资源量为C_m；有N个用户带着其机器学习任务在总长为T的时间段到来，记用户i的到达时间为t_i，用户i提交其任务的信息给云服务商；请求的计算节点类型k_i和参数服务器节点类型m_i；k_i类计算节点的需求量d_ik和m_i类参数服务器节点的需求量d_im；机器学习任务的梯度大小w_i；任务训练的轮次α_i，记用户i提交的上述信息为B_i＝{k_i，d_ik，m_i，d_im，w_i，α_i}，除此之外，每个用户在内心有自己的预算，记为v_i；

每个用户到达时，提交任务信息给云服务商，云服务商在不知道用户预算的情况下，对用户请求的资源进行动态定价，即将k_i类计算节点的单价定为p_ik，将m_i类服务器计算节点单价定为p_im，并告知用户；如果用户同意该定价，即总费用在其预算内，云服务商则进一步为其部署任务，即决定将该任务部署在哪些服务器上以及各个服务器上运行多少个计算节点和参数服务器节点；具体包括如下步骤：

步骤1，用整数规划对上述问题进行建模；

步骤2，根据上述整数规划问题，建立利润和资源单价之间的关系；

步骤3，对于每种资源，将其价格区间[0，1]离散化，得到价格候选集合，并为价格候选集合中的每个价格设计一个奖励值；

步骤4，每当有用户请求到达时，用户向云服务商提交其机器学习任务相关的信息B_i，云服务商判断当前资源是否足够为该用户服务；如果资源足够，判断当前处于探索阶段还是处于开发阶段，进入步骤5；如果资源不足，则拒绝用户请求；

步骤5，基于步骤4所分析的当前状态，如果处于探索阶段，不向用户收取费用，这种情况下，费用一定在用户的预算范围，用户会接受零费用，云服务商将为其部署任务；如果处于开发阶段，则从资源对应的价格候选集中选择奖励值最高的作为当前用户所请求的资源的单价，并告知用户单价，等待用户的回应，如果用户接受定价，进入步骤6；如果用户不接受定价，则回到步骤4，处理下一个用户的请求；

步骤6，对于接受定价的用户，为其部署机器学习任务，同时更新当前可用资源状况；

步骤7，一旦有机器学习任务完成，释放该任务所占用的资源，更新对应的服务器上的可用资源量，更新步骤3中对应的价格候选集合中奖励值相关参数，用于下一次的奖励值计算。