[发明专利]一种缓存的处理方法及装置有效
申请号: | 201911321704.8 | 申请日: | 2019-12-20 |
公开(公告)号: | CN111200637B | 公开(公告)日: | 2022-07-08 |
发明(设计)人: | 马涛 | 申请(专利权)人: | 新浪网技术(中国)有限公司 |
主分类号: | H04L67/568 | 分类号: | H04L67/568;H04L67/5681;H04L67/02 |
代理公司: | 北京卓岚智财知识产权代理事务所(特殊普通合伙) 11624 | 代理人: | 郭智 |
地址: | 100193 北京市海淀区东北旺西路中关村*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 缓存 处理 方法 装置 | ||
本发明实施例提供一种缓存的处理方法及装置,其中,所述方法包括:通过消息转换程序将缓存处理请求放入本地内存队列,按批次将本地内存队列中的缓存处理请求发送到分布式流平台Kafka;获取Kafka的客户端程序Agent管理的集群虚拟IP;通过Agent从Kafka中读出缓存处理请求,并将缓存处理请求发送至集群虚拟IP;通过所述集群虚拟IP将缓存处理请求转发至后端真实服务器以该缓存处理请求的缓存内容。通过采取全新的技术考量和全新的方案设计,使逻辑更简单,同时存入数据库的方式变更为消息队列的方式,通过内存队列更快的写入和读取数据,并且各个环节都可以采用分布式的方式,保证高可用。
技术领域
本发明涉及计算机技术领域,具体涉及一种缓存的处理方法及装置。
背景技术
内容分发网络CDN是为了用户能就近访问在服务器端做了缓存,在没有到缓存过期时及时清除CDN缓存;或是为了用户能就近访问在服务器端做了缓存,在用户访问之前在服务器端提前缓存。现有技术处理缓存主要是通过把用户请求通过超文本传输协议HTTP接口鉴权后存储至数据库,每台管理设备再通过Agent去访问数据库读取数据,读取数据后写入本地文件,然后通过多个脚本相互嵌套读取文件内容发送处理请求给反向代理nginx,nginx通过hash算法转给后端缓存程序ATS,ATS接口接收请求后,删除或预热相应的缓存文件
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
现有技术中,因为每条请求都要存入数据库,数据库在存数据时候写入硬盘的压力会很大,在很大并发的情况下,数据写入及读取都会有很大延迟,导致处理缓存不及时。
发明内容
本发明实施例提供一种缓存的处理方法及装置,通过采取全新的技术考量和全新的方案设计,使逻辑更简单,同时存入数据库的方式变更为消息队列的方式,通过内存队列更快的写入和读取数据,并且各个环节都可以采用分布式的方式,保证高可用。
为达到上述目的,一方面,本发明实施例提供了一种缓存的处理方法,所述方法包括:
通过消息转换程序将缓存处理请求放入本地内存队列,按批次将本地内存队列中的缓存处理请求发送到分布式流平台Kafka;
确定Kafka的客户端程序Agent管理的集群虚拟IP;
通过Agent从Kafka中读出缓存处理请求,并将缓存处理请求发送至集群虚拟IP;
通过所述集群虚拟IP将缓存处理请求转发至后端真实服务器以处理该缓存处理请求对应的缓存内容。
另一方面,本发明实施例提供了一种缓存的处理装置,所述装置包括:
请求获取单元,用于通过消息转换程序将缓存处理请求放入本地内存队列,按批次将本地内存队列中的缓存处理请求数据发送到分布式流平台Kafka;
IP获取单元,用于确定Kafka的客户端程序Agent管理的集群虚拟IP;
请求发送单元,用于通过Agent从Kafka中读出缓存处理请求,并将缓存处理请求发送至集群虚拟IP;
请求处理单元,用于通过所述集群虚拟IP将缓存处理请求转发至后端真实服务器以处理该缓存处理请求对应的缓存内容。
上述技术方案具有如下有益效果:本申请技术方案通过采取全新的技术考量和全新的方案设计,使逻辑更简单,同时存入数据库的方式变更为消息队列的方式,本身数据的索引放在内存中,通过内存队列更快的写入和读取数据,方案的Agent可以兼容多种数据源并且各个环节都可以采用分布式的方式,保证高可用。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新浪网技术(中国)有限公司,未经新浪网技术(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911321704.8/2.html,转载请声明来源钻瓜专利网。