[发明专利]数据预取方法、数据预取装置、处理器

说明书

一种数据预取方法和数据预取装置、处理器。该数据预取方法包括：该数据预取方法包括：获取当前数据预取请求，其中，当前数据预取请求对应于缓存中的目标缓存替换组；获取目标缓存替换组的访问情况；基于目标缓存替换组的访问情况，调整执行目标数据预取请求时的预取策略，其中，目标数据预取请求包括当前数据预取请求，或者在当前数据预取请求之后执行的一个数据预取请求。该数据预取方法基于目标缓存替换组的访问情况实时、动态地调整预取请求，避免因预取数据导致缓存中最近经常被访问的数据被替换掉，提高处理器的处理效率，合理利用缓存资源。

技术领域

本公开的实施例涉及一种数据预取方法、数据预取装置、处理器。

背景技术

处理器的工作速度远高于内存，如果处理器直接访问内存读写数据，则需要等待一定的时间周期，因此访问内存的过程中通常采用高速缓冲存储装置(Cache)来提高系统效率以及处理器访问内存的速度。通常，处理器优先从Cache中查找数据，例如，若应用程序或软件请求的数据在Cache中存在，则称为缓存命中(Cache hit)，反之称为未命中(Cachemiss)。

为进一步降低获取数据的延迟，通常采用预取(Prefetch)技术来提前加载数据，预取技术是通过计算和访存的重叠，在Cache可能会发生未命中之前发出预取请求以便在该数据真正被使用到时己提前将数据提取入Cache，从而避免Cache未命中造成的处理器停顿。

发明内容

本公开至少一实施例提供一种数据预取方法，应用于缓存，所述缓存包括至少一个缓存替换组，每个缓存替换组包括多个缓存行，所述方法包括：获取当前数据预取请求，其中，所述当前数据预取请求对应于所述缓存中的目标缓存替换组；获取所述目标缓存替换组的访问情况；基于所述目标缓存替换组的访问情况，调整执行目标数据预取请求时的预取策略，其中，所述目标数据预取请求包括所述当前数据预取请求，或者在所述当前数据预取请求之后执行的一个数据预取请求。

例如，在本公开至少一实施例提供的数据预取方法中，所述目标缓存替换组的访问情况包括所述目标缓存替换组包括的各个缓存行的访问情况。

例如，在本公开至少一实施例提供的数据预取方法中，基于所述目标缓存替换组的访问情况，调整执行目标数据预取请求时的预取策略，包括：基于所述各个缓存行的访问情况，确定执行所述目标数据预取请求时的预取数据个数。

例如，在本公开至少一实施例提供的数据预取方法中，基于所述各个缓存行的访问情况，确定执行所述目标数据预取请求时的预取数据个数，包括：响应于第一事件，调整执行所述目标数据预取请求时的预取数据个数为第一预取范围中的任意数值，其中，所述第一事件包括所述各个缓存行的访问情况指示所述各个缓存行在预定时间内被多次访问；响应于第二事件，调整执行所述目标数据预取请求时的预取数据个数为第二预取范围中的任意数值，其中，所述第二事件包括所述各个缓存行的访问情况指示所述各个缓存行中的任一个缓存行为空，或者所述各个缓存行在所述预定时间内未被多次访问；响应于第三事件，不改变执行所述目标数据预取请求时的预取数据个数，其中，所述第三事件与所述第一事件和所述第二事件不同，其中，所述第一预取范围的平均值小于所述第二预取范围的平均值。

例如，在本公开至少一实施例提供的数据预取方法中，所述目标缓存替换组包括的各个缓存行的访问情况包括所述各个缓存行的替换优先级，每个缓存行的替换优先级与所述每个缓存行在所述预定时间内的访问次数呈负相关关系，在所述各个缓存行中替换优先级低于或等于第一优先级阈值的缓存行的数量大于第一替换阈值时，确定所述各个缓存行在所述预定时间内被多次访问，在所述各个缓存行中替换优先级高于或等于第二优先级阈值的缓存行的数量大于第二替换阈值时，确定所述各个缓存行在所述预定时间内未被多次访问，其中，所述第一优先级阈值低于或等于所述第二优先级阈值。