[发明专利]一种基于高速互连网络的MPI进程管理接口实现方法

说明书

本发明公开了一种基于高速互连网络的MPI进程管理接口实现方法，包括并行程序获取全部进程通信地址的下述步骤：1)执行键值数据库初始化；2)通过静态通信规则生成所有MPI进程的通信地址信息；3)将所有通信地址信息保存至结点自身的键值数据库中；4)并行程序通过静态通信规则创建自身进程的通信端口；5)MPI进程通过键值数据库获取其他需要进程通信的MPI进程的通信地址信息。本发明能够使得应用程序启动过程中不需要经历全局数据交换阶段，减少了全局数据交换的网络开销时间，从而加快大规模并行应用程序的启动。

技术领域

本发明涉及计算机的高速互连网络，具体涉及一种基于高速互连网络的MPI进程管理接口实现方法。

背景技术

消息传递接口(Message Passing Interface，MPI)是一种采用信息传递方式的并行应用程序通信接口，包括协议和语义说明，是当前并行计算应用的工业标准。MPI支持点对点通信操作和全局通信操作。采用MPI接口编写的并行应用程序，一般可以称为MPI程序。

进程是MPI程序运行的基本单位。根据程序运行规模的不同，MPI程序可以分布在多个不同的计算结点上。MPI程序中的每个进程通过一个全局的Rank号来标识。

为了MPI程序的运行，需要不同的MPI进程进行信息交换。具体来讲，是每个进程需要获取和其通信的其他进程的通信地址信息。

进程之间通信地址信息的部署是在应用程序启动阶段通过进程管理接口定义的全局数据交换操作完成的。进程管理接口是一类信息管理接口，用来实现MPI进程与进程管理器之间的耦合。在高性能计算机系统中，启动一个MPI程序的过程如下：用户提交作业到系统中，系统为MPI程序分配相应的计算结点资源，而后在计算结点上实例化MPI程序进程，进程在系统中利用Rank号进行区分标记。系统为作业的每个MPI进程分配一个全局唯一的Rank号。在每个计算结点上初始化MPI进程时，进程获得系统动态分配的通信地址信息。进程管理接口在每个计算结点上维护了一个键值数据库，计算结点收集本地此作业的MPI 进程通信地址信息，每个MPI进程将自身的通信地址信息存放至键值数据库，利用进程管理接口定义的交换操作执行位于不同结点上的进程间的数据信息交换，并将全体数据信息保存至结点自身的键值数据库中。当MPI进程需要同其他进程进行通信时，可以通过对键值数据库的查询获取其他MPI进程的通信地址信息。

高速互连网络TH-Express是国防科技大学自主研制的高性能互连网络系统，在“天河二号”等高性能并行计算机系统中得到了应用，具有同期国际先进水平的网络通信性能。自主高速互连网络由主机接口芯片(Network Interface Chip，NIC)和互连交换芯片(Network R outer Chip，NRC)两种专用芯片组成。NRC采用高阶路由结构，可以构建光电混合的多种互连拓扑结构，而NIC则在主机内为各种系统和应用软件提供互连通信服务，并利用NRC 实现和全系统各个结点之间的数据传输。

UCX是一个社区协同的公共通信接口项目，其主要设计目标包括可移植性，面向未来互连和体系结构的支持能力，以及产品级质量的实现代码等。UCX采用层次式实现结构，既有面向各种高速互连网络的底层传输层接口定义，又有面向多种应用通信需求的高层协议接口定义。当前UCX已支持主流的高速互连网络，也支持当前流行的GPU计算加速器结构等，这些不同的互连网络和计算加速器支持模块都可以包含在一个UCX实现系统中，通过运行时对环境的检测，自动选择使用最优的数据传输模块。基于高速互连网络 TH-Express，实现了UCX通信接口。

随着高性能计算机不断发展，系统规模日益增加，系统内包含的结点数，处理器核数扩展到了新的水平。随着系统规模的增加，原有的通过进程通信接口数据进行通信地址信息交换的方式在可扩展性方面遇到较大的挑战。