[发明专利]基于运行时硬件计数器和对应用的离线建立简档的自适应高速缓存架构

说明书

背景技术

当前的通用处理器设计(例如，主应用处理器)将片上晶体管的大(有时是最大)部分用于高速缓存存储器，用于临时存储用于快速访问的处理器信息。用于高速缓存存储器的静态通用处理器片上晶体管配置导致很大程度上未充分使用的高速缓存存储器资源，并且即使在不使用或低效使用高速缓存资源时也耗费大部分系统功率预算来管理高速缓存资源。这些静态高速缓存存储器配置还由于它们的严格高速缓存管理策略而导致针对不同应用的性能不一致。一种高速缓存存储器配置实现方式在变化的情况下不为所有应用提供一致或期望的性能。这是部分地因为不同的应用展示出不同的高速缓存存储器访问模式，并且高速缓存存储器配置可能不被高效地或期望地设置用于不同的高速缓存存储器访问模式。对高速缓存的低效使用或不期望的使用导致不利的性能、功耗和热生成。

发明内容

各个方面的方法和装置提供了用于生成高速缓存存储器配置的电路和方法包括以下操作：将机器学习应用于上下文数据，确定与针对计算设备的高速缓存存储器的上下文数据相关的第一高速缓存存储器配置，以及预测在计算设备上对应用的执行。

各个方面的方法和装置提供了用于实现配置计算设备的高速缓存存储器的电路和方法，包括以下操作：基于至少计算设备的硬件数据门限和计算设备的第一硬件数据，来对多个高速缓存存储器配置进行分类，其中，多个高速缓存存储器配置是与预测的应用执行相关的；响应于对多个高速缓存存储器配置的分类，来从多个高速缓存存储器配置选择出第一高速缓存存储器配置，所述分类指示将第一高速缓存存储器配置分类用于计算设备的第一硬件数据；以及基于第一高速缓存存储器配置，来在运行时配置高速缓存存储器。

在一方面，将机器学习应用于上下文数据可以包括将机器学习应用于上下文数据和与上下文数据相关的计算设备的硬件数据，以及确定针对计算设备的高速缓存存储器的与上下文数据相关的第一高速缓存存储器配置可以包括确定针对计算设备的高速缓存存储器的与上下文数据和硬件数据门限相关的第一高速缓存存储器配置。

方面方法还可以包括使所预测的应用与第一高速缓存存储器配置相关。

方面方法还可以包括以下操作：验证所预测的应用和第一高速缓存存储器配置；响应于所预测的应用和第一高速缓存存储器配置是有效的，存储所预测的应用和第一高速缓存存储器配置；以及响应于所预测的应用和第一高速缓存存储器配置是无效的，利用误差值改变机器学习。

方面方法还可以包括以下操作：基于至少计算设备的硬件数据门限和计算设备的第一硬件数据，来对多个高速缓存存储器配置进行分类，其中，多个高速缓存存储器配置是与预测的应用执行相关的；响应于对多个高速缓存存储器配置的分类，来从多个高速缓存存储器配置选择出第一高速缓存存储器配置，所述分类指示将第一高速缓存存储器配置分类用于计算设备的第一硬件数据；以及基于第一高速缓存存储器配置，来在运行时配置高速缓存存储器。

方面方法还可以包括以下操作：接收多个高速缓存存储器参数，其中，多个高速缓存存储器参数中的每一个高速缓存存储器参数是与以下各项相关联的：上下文数据、计算设备的至少一个硬件数据门限、所预测的应用执行以及至少一个高速缓存存储器配置。

方面方法还可以包括以下操作：在基于所选择的第一高速缓存存储器配置来在运行时配置高速缓存存储器之后，接收计算设备的第二硬件数据；基于计算设备的至少一个硬件数据门限和计算设备的第二硬件数据，来对多个高速缓存存储器配置进行分类；响应于对多个高速缓存存储器配置的分类，来从多个高速缓存存储器配置选择出第二高速缓存存储器配置，所述分类指示将第二高速缓存存储器配置分类用于计算设备的第二硬件数据；以及基于第二高速缓存存储器配置，来在运行时配置高速缓存存储器。

在一方面，第一硬件数据和第二硬件数据均可以包括以下各项中的至少一项：高速缓存存储器相关数据；与第一处理器相关的数据，其中，第一处理器是与专用高速缓存存储器相关联的；与第二处理器相关的数据以及与第三处理器相关的数据，其中，第二处理器和第三处理器是与共享高速缓存存储器相关联的。

方面包括一种计算设备，其具有高速缓存存储器，以及处理器，所述处理器耦合到高速缓存存储器以及被配置具有处理器可执行指令以执行上文描述的一个或多个方面方法的操作。方面包括一种计算设备，其具有用于执行上文描述的一个或多个方面方法的功能的单元。方面包括非暂时性处理器可读介质，其上存储有处理器可执行软件指令，以使得处理器执行上文描述的方面方法中的一个或多个方面方法的操作。

附图说明