[发明专利]硬件数据预取器及执行硬件数据的方法

说明书

技术领域

本发明有关于处理器的数据预取，并且主张2014年10月20日提出的美国临时申请案第62/066,131号的优先权，此案件整体引用为本发明的参考。

背景技术

由于处理器内部对快取存储器的存取时间相对于处理器对系统存储器的存取时间持续不对等成长，凸显处理器需要更好的预取方式。举例来说，Mowry描述一个对编译器做修改以使用互斥模式预取的方式，此编译器对分割存储器执行本地分析时，参考“等效分类，其可为单一参考的参考集合”，并插入“一互斥模式预取而非共享模式预取在一给定的等效分类上，如果至少一个等效分类的成员是写入的话”，请参阅“通过软件控制数据预取的延迟容忍”，Mowry,ToddCarl,史丹佛大学1994年博士论文，第89页的叙述。

以软件为主的预取方式的一个缺点就如Mowry所述，因为预取指令将写在程序里于是会增加微码大小，而增加微码大小可能需要在系统主要储存媒介(例如硬盘)上更多的储存空间以保留较大的程序，并且在较大的程序执行时也要在系统存储器中在维持更大的空间才行。额外的指令也消耗处理器的资源，诸如分派区域(dispatchslots)、保留站区域、以及执行单元区域等，这些都可能对处理器效能产生负面影响，而且更特别的是将减少指令区间有效的预视能力，因此对使用指令阶层的平行处理能力影响甚巨。另一个缺点是它不会对所有在处理器执行的程序提供好处，而只会对那些使用最佳化编译器所描述(profiled)与编译过的程序有所助益。

发明内容

本发明提供一种包含在一存储器存取代理器的硬件数据预取器，其中该存储器存取代理器为共享一存储器的多个存储器存取代理器之一。该硬件数据预取器包含一初始为互斥或共享的预取特性，该硬件数据预取器亦包含一预取模块，其使用该预取特性对共享的存储器的一存储器区块执行硬件预取，该硬件数据预取器还包括一更新模块，其执行一该多个存储器存取代理器对该存储器区块的存取分析，并依据该分析，当该预取模块利用该预取特性对该存储器区块执行硬件预取时，动态地更新该预取特性为互斥或共享。

本发明另一实施例提供一种存储器存取代理器的硬件数据预取器方法，其中存储器存取代理器为共享一存储器的多个存储器存取代理器之一，该方法包含初始化一预取特性为互斥或共享，该方法亦包含使用该预取特性对共享的存储器的一存储器区块执行硬件预取，该方法还包括执行一个该多个存储器存取代理器对该存储器区块的存取分析，该方法还包括依据该分析，当该预取模块利用该预取特性对该存储器区块执行硬件预取时，动态地更新该预取特性为互斥或共享。

本发明再一实施例提供一种由计算装置所使用的编码于至少一非转态计算机使用存储媒介的计算机程序产品，该计算机程序产品包含编码于该储存媒介的计算机使用程序编码，用以指示包含于一存储器存取代理器的硬件数据预取器，其中该存储器存取代理器为共享一存储器的多个存储器存取代理器之一。该计算机使用程序编码包含一第一程序编码，用以指示一初始化为互斥或共享的预取特性。该计算机使用程序编码亦包含一第二程序编码，用以指示一预取模块使用该预取特性对共享的存储器的一存储器区块执行硬件预取。该计算机使用程序编码还包括一第三程序编码，用以指示一更新模块，其执行一该多个存储器存取代理器对该存储器区块的存取分析，并依据该分析，当该预取模块利用该预取特性对该存储器区块执行硬件预取时，动态地更新该预取特性为互斥或共享。

本发明可在运行时观察其他存储器存取代理器对存储器区块的存取，即执行改变预取特性的分析，因而相对于软件预取而言，容易在编译时决定其他存储器存取代理器何时会对哪个存储器区块进行存取。

附图说明

图1是本发明一实施例的计算机系统的方块图。

图2是图1的硬件数据预取器的细部方块图。

图3是图1的系统的操作流程图。

图4至11是图1依据多个存储器存取代理器对一存储器区块的存取分析以动态地更新该预取特性的操作流程图。

图12是使用离线程序分析来决定预取特性以执行硬件预取的操作流程图。

图13描绘多个范围暂存器的方块图。

图14是图1依据多个存储器存取代理器对一存储器区块的存取分析以动态地更新该预取特性的操作流程图。

其中，附图中符号的简单说明如下：

100：计算系统

101：存储器存取代理器

102：核

103：处理器

104：绘图处理单元(GPU)

106：直接存储器存取(DMA)装置