[发明专利]一种多级并行化编程方法

摘要

本发明公开了一种多级并行化编程方法，涉及并行编程模型、模式与方法领域，该方法通过对进程间和进程内的处理，充分结合了混合硬件体系结构的特征，在提高集群硬件环境利用率方面具有明显效应，而且帮助开发人员简化并行编程和复用已有的并行代码，减少了编程的复杂度，降低了出错率；并且该方法考虑了容错，进一步地降低了出错率。

主权项

一种多级并行化编程方法，包括进程间的处理和进程内的处理，所述进程间的处理由主进程、从进程、DAG任务解析线程、第一线程池缓冲区、通信线城池、任务分配线程、数据同步线程和第一DAG任务完成反馈队列之间的相互通信实现；所述进程内的处理由主线程、第二线程池缓冲区、工作线程池、工作线程和第二DAG任务完成反馈队列之间的相互通信实现；其特征在于，所述进程间的处理包括：(1)所述DAG任务解析线程解析第一DAG图，获取并下发DAG任务到所述第一线程池缓冲区；(2)所述通信线程池中的闲置线程从所述第一线程池缓冲区中获取DAG任务，所述任务分配线程下发DAG任务给相应的所述从进程并进入等待确认信息的状态；(3)当任意一所述从进程完成DAG任务，其对完成的数据块内容进行广播，所述数据同步线程使所述主进程和所有所述从进程进行数据同步更新；广播完毕后，发送确认信息给相应的所述任务分配线程；(4)所述任务分配线程接收到相应的所述从进程的确认信息后，将已完成的DAG任务ID写入所述第一DAG任务完成反馈队列；(5)所述DAG任务解析线程实时监测所述第一DAG任务完成反馈队列，当有完成的DAG任务时，更新所述第一DAG图；否则，重新执行步骤(1)，当所有的任务都完成，退出监测，流程结束；所述进程内的处理包括：(6)所述主线程获取所述从进程发送的DAG任务，解析第二DAG图，获取并下发DAG任务到所述第二线程池缓冲区；(7)所述工作线程池从所述第二线程池缓冲区中获取DAG任务，将其下发给任一闲置的所述工作线程；当所述工作线程完成DAG任务时，将完成的DAG任务ID写入所述第二DAG任务完成反馈队列中；(8)所述主线程实时监测所述第二DAG任务完成反馈队列，当有完成的DAG任务时，所述主线程更新所述第二DAG图，重新执行步骤(6)；当所有的任务都完成后，所述主线程将退出监测，进入等待下一个新任务状态。