[发明专利]基于硬件特性的分布式共享内存方法及系统

说明书

本发明提供了一种基于硬件特性的分布式共享内存方法及系统，包括获取远端程序访问权限步骤：使用单边RDMA读操作和写操作绕过远端处理器访问和修改远端进程的页表项；内存共享步骤：实现不同多核处理器之间的分布式内存共享；线程同步操作步骤：使用原子RDMA操作实现线程同步操作。本发明能够绕过远端处理器(CPU)的干预直接控制远程计算机对内存的访问，使用层级化的共享内存模式，提供了基于RDMA的高效同步原语，具有低CPU占用率，易于编程，线程间同步性能好等特点。

技术领域

本发明涉及分布式计算平台技术领域，具体地，涉及基于硬件特性的分布式共享内存方法及系统。

背景技术

在大数据计算领域，计算应用运行在由许多服务器或工作站构成的集群上或者数据中心里，共享内存技术是构成这些计算应用的下层基础框架的技术之一。共享内存技术为上层的应用提供一种统一的地址空间的抽象，使得运行在不同硬件单元上的计算任务可以用统一的寻址方式访问本地内存的内容以及远程硬件单元上的内存内容。单机共享内存方案已经广泛应用于多核处理器中；分布式共享内存也已被应用于分布式键值存储系统、分布式事务处理系统等应用场景中。

早期的分布式共享内存技术是建立在传统的慢速网络之上的，例如目前广泛应用的以太网。早期的分布式共享内存技术主要目标是解决共享内存一致性问题，即保证多台机器同时对共享数据的读取和修改操作能最终得到正确的结果，就好像只有一个人在执行计算任务一样。这些技术让程序员可以像在单机上编程一样编写运行在分布式系统上的应用。早期分布式共享内存技术的主要缺点是完全使用软件来维护共享内存一致性，而维护的开销很大，导致使用这种技术的分布式计算性能差、运行时间长。

近年来，随着支持远程直接内存访问(RDMA)技术的高速网络的逐渐普及，分布式共享内存技术又出现了新的设计。支持远程直接内存访问的高速网络不仅仅降低了网络传输的延迟，更加提供了高效的用户态接口使应用程序能绕过内核直接使用网络，进一步降低了延迟。基于远程直接内存访问技术的分布式共享内存技术，将高速网络提供的收发消息机制提供给计算任务。处于应用层的计算任务使用这种消息机制直接读取或者修改远程机器上的内存，但是并不维护严格的共享内存一致性，而是代之以事务处理一致性的接口。这种分布式共享内存技术的优点是降低了维护一致性的开销，但是程序员需要面向特定的软件接口编程，降低了程序的表达力和自由度。

综上所述，现有的分布式共享内存技术或者无法利用现有的高速网络，或者增加了编程接口的复杂性，限制了应用程序的自由度。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于硬件特性的分布式共享内存方法。

根据本发明提供的基于硬件特性的分布式共享内存方法，包括如下步骤：

控制远端程序访问内存权限步骤：使用单边RDMA读操作和写操作绕过远端处理器读取和修改远端进程的页表项；

内存共享步骤：实现不同多核处理器之间的层级化内存共享；

线程同步操作步骤：使用原子RDMA操作实现线程同步操作。

优选地，所述控制远端程序访问内存权限步骤中的单边RDMA操作是一种由RDMA网卡提供的底层接口，能够在不占用远程CPU资源的情况下读取或者修改远程内存的内容。

优选地，所述内存共享步骤中同一台机器上的CPU核心通过本机的缓存一致性实现共享内存，位于不同的机器上的CPU核心之间通过一个通信协议实现分布式共享内存。

优选地，所述线程同步操作步骤实现的线程同步操作包括：使用RDMA原子操作实现锁操作，并使用RDMA消息传递机制实现条件变量。