[发明专利]一种处理器的动态数据预取系统

说明书

技术领域

本发明涉及计算机处理器设计领域，提供了一种处理器中的动态数据预取系统，用于根据当前数据预取的状态，动态地变更数据预取算法和策略，从而可以根据具体情况加速数据预取速度。

背景技术

在计算机执行程序时，程序数据通常先存储于内存中，然后处理器再从内存中读取数据，从而执行相关指令。但是，现有技术中的处理器性能要明显快于内存的访存速度，并且从发展趋势看，处理器和内存的性能差距正在越拉越大，因此内存的访存速度严重制约了处理器的性能。

基于上述矛盾，目前的计算机都在处理器中构建一定容量的高速缓存，用来存放处理器最近使用的数据，与外部的内存相比，高速缓存的访存速度要快很多，在降低内存访问次数的同时降低访问内存的平均时延。随着内存和处理器的性能差距越来越大，研究人员对高速缓存进行了各种改进和优化。归根结底，提升处理器访存性能的主要方法是降低访存的平均时延和减少高速缓存缺失的次数。

数据预取是一种隐藏存储访问时延的有效方法，数据预取利用了数据之间时间和空间的相关性，在发生高速缓存缺失之前就发出访问内存的请求，把数据提前存入高速缓存，通过将访问内存的时间部分隐藏在处理器正常处理时间中，以减少处理器流水线因访存停顿的时间，从而提高计算机性能。

研究人员对于数据预取的多年研究，发展出了多种数据预取的算法，例如流预取算法、指针预取算法等等，这些算法各有利弊，都只在某些条件下具有优势。但是，对于一个具体处理器而言，其通常采用的是其中一个固定的数据预取算法，这一固定的算法也仅仅在某些条件下具有优势，在其他条件下，处理器的性能就开始下降。

发明内容

针对现有技术中的问题，本发明提出了一种处理器的动态数据预取系统，该系统根据预设的策略条件，动态地更换处理器当前的数据预取算法，从而在不同条件下，都能够提高处理器的访问速度，并提高处理器性能。

本发明的处理器的动态数据预取系统包括处理器核、内存、高速缓存、数据预取单元和预取协处理器，其中

数据预取单元包括两个预取器，其中一个是当前有效的处于工作状态的预取器，另一个是备用的处于休眠状态的预取器，两个预取器的状态可以互相转换；每个预取器都具有一个预取算法存储器，用于存储该预取器所使用的预取算法程序，当前有效的预取器通过执行其使用的预取算法程序，从内存中读取预取的数据，将该数据存入高速缓存中；

预取协处理器与处理器核和高速缓存连接，监控处理器核对高速缓存的访问情况，在满足预定条件后，预取协处理器做出判断，确定更换当前工作的预取算法，将新的预取算法存入备用的预取器的预取算法存储器，通知当前有效的预取器停止工作，进入休眠状态，通知备用的预取器进入工作状态，开始执行数据预取。

更换预取算法的时机也非常重要，因此我们在此系统中，进一步提出了更换预取算法的条件。

附图说明

图1：本发明的动态数据预取系统

图2：预取算法表

具体实施方式

程序员在编写程序时，会根据当前的应用背景或者个人的编写习惯等因素采用不同的数据结构和内存分配管理方式，从而呈现出不同的数据访问特征。这样的背景，使得处理器单一的预取机制很难适应各种情况下的数据访问特征，因此需要针对不同的数据访问特征提供不同的数据预取算法。本领域中已经提出了许多种数据预取算法，并且通过理论研究和实际应用，这些数据预取算法所适应的数据访问特征也很清楚，从而可以通过一定策略条件的判断，确定当前处理器应当使用哪种数据预取算法。

图1是本发明的动态数据预取系统，该系统包括处理器核、内存、高速缓存、数据预取单元和预取协处理器。其中数据预取单元包括两个预取器：预取器A和预取器B，这两个预取器其中一个是当前有效的处于工作状态的预取器，另一个是备用的处于休眠状态的预取器，两个预取器的状态可以互相转换，每个预取器都具有一个预取算法存储器，用于存储该预取器所使用的预取算法程序，这里的预取算法程序可以是本领域中任意一种预取算法程序，例如流预取算法、指针预取算法等等。当前有效的预取器通过执行其使用的预取算法程序，从内存中读取预取的数据，然后存入高速缓存中。