[发明专利]一种缓存管理方法及装置

说明书

本发明提供一种缓存管理方法及装置，涉及通信技术领域，用于解决LRU算法中由于ADC内存缓存过小的原因大量首次访问的非热点资源将热点资源排挤出缓存链表中进而造成的热点资源访问时命中率下降的问题。该方法包括：若确定请求资源的请求资源标识不属于缓存链表内的资源标识且缓存链表中真实缓存链表的存储空间已满；则将请求资源标识插入真实缓存链表中的非热点资源的链表的首端，使原先非热点资源的链表的末端的资源标识移动至虚拟缓存链表的首端，以及通过请求资源置换真实缓存链表末端的资源标识对应的缓存资源。本发明用于资源缓存的管理。

技术领域

本发明涉及通信技术领域，尤其涉及一种缓存管理方法及装置。

背景技术

应用交付设备(英文名称：Application Delivery Controller，英文简称：ADC)是传统网络负载均衡的升级扩展，是一个综合了多种技术手段的应用交付平台。通过合理地部署ADC，用户可以进一步改善业务性能，提高业务服务器的效率。其中，内存缓存就是ADC针对网页(英文名称：WEB)应用服务器性能优化的重要技术之一。ADC的缓存系统可以代替应用服务器响应部分可以被缓存的热点数据，如静态页面、图像、文件等资源，从而大大减少应用服务器的连接压力、流量压力和性能压力。热点资源缓存的访问命中率越高，则ADC的优化效果越好。ADC往往使用内存缓存技术来保障缓存响应性能。相比磁盘缓存，内存缓存技术具有更优秀的缓存响应性能，符合ADC性能优化的目标，因此被绝大多数ADC所使用。但内存缓存的不足在于，系统的内存容量往往是有限制的，因此限制了可被缓存的热点资源数量。当缓存满了以后，新资源需要将部分热点资源置换掉，从而使整体访问的缓存命中率下降。

现有技术中，为了解决系统整体访问的缓存命中率下降的问题，通常使用最近最少使用算法(英文名称：Least Recently Used，英文简称：LRU)进行缓存置换，其将资源按照最近访问时间组成一个链表。当一个缓存中的资源被访问时，该节点被从链表中摘下，并重新插入链表头部；当一个不在缓存中的新资源被访问时，链表末尾最久未被访问的资源被移除，新资源被插入到链表首部。但随着WEB应用的发展，很多WEB服务器的可缓存资源规模增大，图片、视频、文档等大容量资源的大量应用，使得ADC内存缓存空间远小于服务端数据总量。另一方面，热点资源占总资源比例变小且集中化，而其它大部分数据则不容易被短时间内重复访问。例如有些场景的统计数据显示，80％以上的数据访问量小于10，但占总访问70％以上。在这种场景下，LRU算法中由于ADC内存缓存过小的原因，大量首次访问的非热点资源将热点资源排挤出缓存链表中进而造成热点资源访问时命中率下降的问题。

发明内容

本发明的实施例提供一种缓存管理方法及装置，用于解决LRU算法中由于ADC内存缓存过小的原因大量首次访问的非热点资源将热点资源排挤出缓存链表中进而造成的热点资源访问时命中率下降的问题。

为达到上述目的，本发明的实施例采用如下技术方案：

第一方面，提供一种缓存管理方法，该方法包括：

若确定请求资源的请求资源标识不属于缓存链表内的资源标识且所述缓存链表中真实缓存链表的存储空间已满；则将所述请求资源标识插入所述真实缓存链表中的非热点资源的链表的首端，使原先非热点资源的链表的末端的资源标识移动至所述虚拟缓存链表的首端，以及通过所述请求资源置换所述真实缓存链表末端的资源标识对应的缓存资源；

其中，所述缓存链表包括所述真实缓存链表和虚拟缓存链表，所述真实缓存链表后续接所述虚拟缓存链表，所述真实缓存链表包括热点资源的链表和非热点资源的链表，所述热点资源的链表后续接所述非热点资源的链表。

第二方面，提供一种缓存管理装置，该装置包括：

查询模块，用于查询请求资源的请求资源标识是否属于缓存链表内的资源标识以及查询所述缓存链表中真实缓存链表的存储空间是否已满；