[发明专利]缓存装置、方法及系统

说明书

本申请涉及一种缓存装置、方法及系统，所述缓存装置包括控制模块及存储模块，所述控制模块用于：根据候选对象的历史访问信息，对候选对象进行标注；将标注后的候选对象加入到当前训练集中；使用当前训练集对当前周期的概率预测模型进行训练来得到下一周期的概率预测模型，或者在当前训练集中的候选对象的数量大于或等于数量阈值时使用当前训练集对当前周期的概率预测模型进行训练来得到下一周期的概率预测模型。本申请的实施例能够在缓存装置运行过程中，自动对候选对象进行标注后加入到当前训练集中，并使用当前训练集对当前周期的概率预测模型进行训练，从而能够实现缓存装置的在线自监督学习。

本申请要求于2021年04月06日提交中国专利局、申请号为202110368192.1、申请名称为“一种缓存系统”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。

技术领域

本申请涉及计算机技术领域，尤其涉及一种缓存装置、方法及系统。

背景技术

为了降低数据访问时延，通常会在数据库、内容分发网络、数据存储等业务系统中设置缓存，例如设置缓存组件、缓存子系统等，用于暂时保存业务系统中近期可能会被重复访问的数据。

目前，缓存通常为采用预设准入及淘汰规则的启发式缓存，或者为基于离线机器学习的缓存。然而，在业务系统的业务场景或数据访问模式发生变化时，启发式缓存及基于离线机器学习的缓存均存在业务适应性差、维护成本高等问题。

发明内容

有鉴于此，提出了一种缓存装置、方法及系统。

第一方面，本申请的实施例提供了一种缓存装置，所述缓存装置包括控制模块及存储模块，所述控制模块用于：根据候选对象的历史访问信息，对所述候选对象进行标注；其中，所述候选对象为全部或者部分的目标对象，所述目标对象为所述缓存装置接收的读请求中指示的对象，或者所述目标对象为所述缓存装置接收的写请求中指示的对象，或者所述目标对象为所述存储模块中待淘汰的对象；将标注后的候选对象加入到当前训练集中；使用所述当前训练集对所述当前周期的概率预测模型进行训练来得到下一周期的概率预测模型，或者在所述当前训练集中的候选对象的数量大于或等于数量阈值时使用所述当前训练集对所述当前周期的概率预测模型进行训练来得到下一周期的概率预测模型。

本申请的实施例，能够在缓存装置运行过程中，自动对候选对象进行标注，并将标注后的候选对象加入当前训练集中，然后使用当前训练集对当前周期的概率预测模型进行训练来得到下一周期的概率预测模型，或者在当前训练集中的候选对象的数量大于或等于数量阈值时使用当前训练集对当前周期的概率预测模型进行训练来得到下一周期的概率预测模型，从而能够实现概率预测模型的在线自监督学习(即在线运行过程中自动进行样本标注及训练)，进而实现缓存装置的在线自监督学习。

通过这种方式，不仅能够不断优化缓存装置的缓存准入及淘汰决策，提高缓存命中率，而且使得缓存装置能够自动感知并适应多种业务场景以及业务场景或数据访问模式的变化，在提高缓存装置的业务适应性的同时，还能降低缓存装置的维护成本。

根据第一方面，在所述缓存装置的第一种可能的实现方式中，所述控制模块，用于：在所述候选对象的历史访问信息中确定参考位置；将所述历史访问信息中在所述参考位置之前的信息，标注为所述候选对象的参考访问信息；将所述历史访问信息中在所述参考位置之后的信息，标注为所述候选对象的参考访问概率。

本申请的实施例，通过在候选对象的历史访问信息中确定参考位置，并将候选对象的历史访问信息中在参考位置之前的信息，标注为候选对象的参考访问信息，同时将候选对象的历史访问信息中在参考位置之后的信息，标注为候选对象的参考访问概率，从而能够在缓存装置运行过程中，根据历史访问信息对候选对象进行自动标注，进而提高标注效率。