[发明专利]利用数据标签提高多计算单元平台上数据共享的方法

说明书

本发明提供一种利用数据标签提高多计算单元平台上数据共享的方法，在多核心平台上具有多个核心，并有多个线程利用数据标签在核心上分别产生多个临界区间，当第一线程先进入该第一临界区间中存取一共享变量时，会让共享变量暂存在第一核心中；当第一线程离开临界区间时，会将数据的控制权交给具有传输效率优势的第二核心。

技术领域

本发明有关一种数据共享的技术，特别是指一种利用数据标签提高多计算单元平台上数据共享的方法。

背景技术

在共享内存多核心环境中，数据通过核心之间的总线传输，若传输路径很长，则数据传输延迟很长。而随着电子技术的快速发展，已经开发出各种高性能多核处理器系统。如在2017年英特尔推出的Xeon处理器中，每个处理器有28个核心，最多可连接8个处理器。在这样的多核处理器系统中，如何存取和使内存中的数据同步是系统的瓶颈。

在统一内存存取(Uniform Memory Access,UMA)中，处理器连接到大的单一主存储器，使得到内存位置的访问时间与哪个处理器发出请求无关，但UMA的主要问题是它不可扩展。为了解决UMA中的可扩展性问题，在非统一内存存取(Non-Uniform Memory Access,NUMA)中将该组处理器区分成多个节点，每一节点各自具有用于该组处理器的主存储器。存取同一节点内的本地内存会比存取其他节点上的远程内存要快。而在缓存一致性非统一内存存取(cache coherence NUMA,ccNUMA)系统中，NUMA的概念被扩展到芯片的内部高速缓存(例如单处理器)，其中每一核心具有完整的高速缓存层次结构，且所有核心的最后一层快取(Last Level Cache,LLC)皆通过内部通信网络连接。存取本地高速缓存比存取远程快取更快，若请求的数据位于同一芯片上另一个核心的快取中，则存取延迟会取决于核心之间的通信距离，因为数据需要先传输到所请求的核心。

影响处理器性能的一个重要因素是数据同步。在目前的软件系统中(如POSIXPthread)中，线程在存取与其他线程共享的数据之前，会设置数据锁定，否则无法保证数据的正确性。但对共享变量设置锁定可能会阻塞其他线程，因为这些线程也需要通过锁定以存取数据，但数据已被前一个进入临界区的线程锁定。这会严重降低线程执行的并行度。目前已经提出了各种有效的技术：例如：2019版本的GNU’s POSIX spinlock，简称plock)，在plock中，在进入临界区间(如，共享变量)之前会连续测试全局锁变量(global lockvariable)。然而众所周知的是，plock的可扩展性不佳，且执行的顺序并不公平性。虽然目前已提出多种改良方法来解决其公平性问题，例如MCS和票证锁(ticket lock)，但在许多核心处理器系统中，公平性和效率的问题将更加复杂，因为线程执行中的并行度会高很多，且数据传输延迟在不同的核心之间也可能更加显著。

因此，本发明即提出一种利用数据标签提高多计算单元平台上数据共享的方法，有效解决上述该多个问题，具体架构及其实施方式容后详述。

发明内容

本发明的主要目的在于提供一种利用数据标签提高多计算单元平台上数据共享的方法，每一个离开临界区间的线程将数据的存取权交给在通讯上具有优势的下一个线程，以降低核心与核心之间的传输成本。

多计算单元可以是多核心处理器，执行不同指令集的异质的处理器、加速器、图形运算加速器、人工智能运算加速器等。为了让本发明更易于了解，在接下来的说明中，以多核心处理器为例。熟习本项技术的人员当可以扩充到其他多计算单元的各种运算环境中。

本发明的另一目的在于挑选在数据传递上具有优势的线程时，也考虑了公平性问题，以确保每个线程于进入临界区间的机率是相等的。这在学术上也称为「有限次数等待」。