[发明专利]具有可定制的软件高速缓存级别的数据中心环境

说明书

提供了具有可定制的软件高速缓存级别的数据中心环境。描述了一种方法。该方法包括给要在计算机上执行的不同软件程序配置定制的硬件高速缓存服务级别。硬件高速缓存级别的可用集合至少包括L1、L2和L3高速缓存级别，并且以下硬件高速缓存级别中的至少一个可用于对软件程序的定制支持：L2、L3和L4。

技术领域

本发明的领域一般地涉及计算科学，并且更具体地涉及具有可定制的软件高速缓存级别的数据中心环境。

背景技术

随着云计算服务和网络和/或云存储服务的重要性日益增加，从其提供这样的服务的数据中心环境越来越需要更有效率地利用其底层硬件资源以便从底层硬件资源实现更好的性能和/或客户服务。

附图说明

从结合以下各图的以下详细描述，可以获得对本发明的更好理解，在所述图中：

图1示出了传统的软件和数据中心环境；

图2示出了新兴的软件和数据中心环境；

图3示出了可定制的高速缓存级别层次；

图4示出了可定制的数据中心边缘高速缓存；

图5示出了用于在软件运行时间段内改变高速缓存配置的系统；

图6示出了用于实现可定制的高速缓存级别的电路；

图7示出了计算系统。

具体实施方式

图1示出了现有技术高性能数据中心环境100。如在图1中观察到的，许多高性能软件程序101在高性能服务器计算机102上实例化。为了便于绘图，图1仅示出了一个服务器计算机102。读者应当理解，高性能数据中心环境常常包括许多高性能服务器计算机和软件程序。

服务器计算机102可以被视为依靠数据中心103的各种集中功能的外围组件。例如，软件程序101可以依靠数据中心103用于各种类似云的服务，诸如：1）因特网和/或其他网络访问；2）一个或多个持久数据库和/或非易失性大容量存储资源105、106；3）被定向到软件程序101的（例如，从因特网接收的）传入新请求的负载均衡；4）对耦合到数据中心103的任何服务器计算机的故障转移保护；5）防护（security）；和/或6）管理和统计监测。

图1还详述了为软件101服务的高速缓存结构。如本领域中已知的，服务器计算机102通常包括多个处理器半导体芯片107_1、107_2。为了便于绘图，图2将服务器计算机102示出为仅包括两个处理器半导体芯片107_1、107_2。然而，读者应当理解，服务器计算机常常包括不止一个处理器芯片。每个处理器芯片107包括多个处理核心。为了便于绘图，仅一个处理核心标有参考号码（参考号码108）。每个处理核心包括多个指令执行流水线（例如，8个流水线、16个流水线等）。如本领域中已知的，指令执行流水线（或其硬件线程）是用于执行单个软件线程的硬件的基本单元。

在图1的特定高速缓存架构中，每个指令执行流水线具有它自己的私有、小但非常低等待时间的L1高速缓存。同一处理核心的所述多个指令执行流水线共享它们自己的稍大且稍慢的L2高速缓存。相同处理器半导体芯片107_1、107_2的相同处理核心共享相同的“末级”高速缓存（L3）。如果未命中末级高速缓存，则处理器芯片的高速缓存耗尽，并且对服务器计算机的系统存储器109（也称为主存储器）进行数据访问。如果需要的数据不在系统存储器109中，则可以从数据中心103内的数据库105或大容量存储资源106取出这样的数据。

在高性能软件程序用于实现其相应功能的逻辑和过程方面，高性能软件程序传统上是单片的（monolithic），或者换言之，在很大程度上是自包含的。在某种意义上，图1的总体传统实现是“粗粒度的”，因为软件101的大自包含块具有相对少的高速缓存级别（L1、L2、L3）。