[发明专利]一种面向分布式机器学习的数据划分方法

权利要求书

1.一种面向分布式机器学习的数据划分方法，其特征在于：所述的机器学习数据划分方法主要分为四个步骤：初始化、神经网络训练、状态选取、数据划分；

分布式机器学习数据划分方法可依附于现有TensorFlow平台，通过修改和新增相应的功能模块实现；该平台由多个计算机服务器(平台节点)组成，服务器间通过以太网连接；平台节点分为两类：包括一个管理节点和多个计算节点(Worker)；方法包含三个核心软件模块：批尺寸管理器(Batch Size Manager)包含：精度预测模块(AccuracyPrediction)、批尺寸选取模块(BatchSizeSelectionModule)，参数服务器模块(Parameter Server)；其中，Batch Size Manager负责收集各个计算节点的环境状态信息S和批尺寸管理，仅在管理节点上部署；AccuracyPrediction负责计算当前状态下模型最终能达到的精度值情况；BatchSizeSelectionModule负责批尺寸数据的构建，根据当前计算节点的资源情况划分数据；Parameter Server负责梯度计算，在迭代开始时，批尺寸管理器根据环境状态信息S计算出每个worker应配置的批尺寸大小，每个worker从批尺寸管理器拉取相应批尺寸大小的数据进行本地训练，将各自的梯度参数发送给参数服务器，参数服务器进行梯度聚合后各个worker拉取相应的参数进行下一次迭代计算；

其特征在于：所述方法在分布式集群上按以下步骤实现，在本方法中，主要有以下重要参数：用于经验回放的内存符号是M，容量为M＝10G，Q值网络权重θ采用随机初始化方式，目标Q值网络权重θ′＝θ，模型精度阈值ACC＝0.93，模型训练总时间阈值T_limit＝6×10³s，环境奖励r；具体实施方法可分为以下步骤：

(1)初始化；

1.1)始化经验回放内存M＝10G；

1.2)初始化Q网络，随机生成权重θ，初始化目标Q值网络，权重为θ′＝θ；

1.3)初始化模型精度阈值ACC＝0.93与训练总时间限制阈值T_limit＝6×10³s；

(2)神经网络训练；

2.1)定义训练次数K，初始化状态队列φ(S)，采用有监督学习方法进行模型训练，开始时，训练数据批尺寸管理器从每个worker进行获取和收集；

2.2)定义神经网络模型，双目标神经网络中精度预测网络采用三层全连接层，Q值网络采用三个卷积层和两个全连接层；神经网络的输入为环境状态S、动作a，神经网络的输出为对应的动作价值Q(s，a)；

2.3)从t时刻开始，每次从状态队列取出状态S_t，然后采取t时刻的动作a_t，观察状态奖励值r_t，并得到t+1时刻的状态S_t+1；

2.4)此时状态队列φ_t+1＝φ(S_t+1)同时将(φ_t，a_t，r_t，φ_t+1)存放进经验池M；2.5)循环终止在j+1轮，则令yj＝γ*maxQ(φ_j+1，a_t，θ′)；

2.6)对网络参数θ执行梯度下降步骤即LossFunction：(y_j-Q(Φ_j，a_j，θ))²

直至循环结束；

(3)根据精度预测模块进行状态选取

3.1)对于每一个存在队列φ(5)中的状态S_t，根据精度预测模块的结果，判断出当前状态下模型最终精度是否大于精度阈值即ACC_final≥ACC；是，转到3.2)；否，继续判断队列中下一个状态；

3.2)在3.1)基础上对于每一个存在队列φ(S)中的状态S_t，判断模型训练轮次E*每轮执行时间是否小于等于总时间阈值T_limit；是，就将状态S_t记录到状态表table中；否，返回3.1)；

3.3)更新状态表，每次进行状态记录时与之前状态的执行时间进行比较，如果当前状态的执行时间小于之前状态的执行时间，那么就将当前状态记录到状态表中；

(4)批尺寸选择模块进行数据划分

4.1)选择出最佳的状态S；

4.2)批尺寸选择模块将状态5中的批尺寸B设置应用到整个集群当中，具体操作是根据步骤4.1)选择出的最优批尺寸数值，将每个worker里神经网络参数定义模块中的批尺寸参数进行更新替换，操作完成后转到步骤(5)；

(5)结束：终止对分布式机器学习的数据划分功能。