[发明专利]数据处理方法及装置有效
申请号: | 202110688648.2 | 申请日: | 2021-06-21 |
公开(公告)号: | CN113342277B | 公开(公告)日: | 2022-11-08 |
发明(设计)人: | 蔡尚志;王盛 | 申请(专利权)人: | 上海哔哩哔哩科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F9/50 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 刘晓楠 |
地址: | 200433 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 | ||
本申请提供数据处理方法及装置,其中所述数据处理方法包括:接收目标业务数据获取请求,其中,所述目标业务数据获取请求中包含目标业务标识;在所述服务节点的磁盘空间中不存在与所述目标业务标识对应的目标业务数据的情况下,基于所述目标业务标识确定并获取目标数据源中的目标业务数据;将所述目标业务数据存入所述服务节点的磁盘空间,计算所述服务节点的当前磁盘空间利用率并获取预设磁盘空间利用率,其中,所述预设磁盘空间利用率根据历史业务数据获取请求确定;在所述当前磁盘空间利用率大于所述预设磁盘空间利用率的情况下,根据预设的磁盘空间调整策略调整所述服务节点的磁盘空间。
技术领域
本申请涉及数据处理技术领域,特别涉及一种数据处理方法。本申请同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质。
背景技术
CDN服务通常会对访问的数据做缓存,正常缓存流程是对整个文件做分片,而分片带来的是Inode个数增长,同时也带来了内存使用率的增长(Inode对象和相关联对象都需要占用内存),并且CDN机器上磁盘容量通常是以TB作为单位(55TB,即10个5.5T的磁盘),而内存是GB作为单位(128GB),而一个分片通常是2Mb~20Mb,这将导致文件数量大概在288万和2883万个之间,当文件数量不断增加,达到内存使用上限时将会影响服务质量,因此需要将磁盘内存的空间使用量控制在合理范围内。
发明内容
有鉴于此,本申请实施例提供了一种数据处理方法。本申请同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质,以解决现有技术中存在的缓存中分片文件数量大,占用内存多导致的影响服务质量的问题。根据本申请实施例的第一方面,提供了一种数据处理方法,包括:
接收目标业务数据获取请求,其中,所述目标业务数据获取请求中包含目标业务标识;
在所述服务节点的磁盘空间中不存在与所述目标业务标识对应的目标业务数据的情况下,基于所述目标业务标识确定并获取目标数据源中的目标业务数据;
将所述目标业务数据存入所述服务节点的磁盘空间,计算所述服务节点的当前磁盘空间利用率并获取预设磁盘空间利用率,其中,所述预设磁盘空间利用率根据历史业务数据获取请求确定;
在所述当前磁盘空间利用率大于所述预设磁盘空间利用率的情况下,根据预设的磁盘空间调整策略调整所述服务节点的磁盘空间。
根据本申请实施例的第二方面,提供了一种数据处理装置,包括:
接收模块,被配置为接收目标业务数据获取请求,其中,所述目标业务数据获取请求中包含目标业务标识;
确定模块,被配置为在所述服务节点的磁盘空间中不存在与所述目标业务标识对应的目标业务数据的情况下,基于所述目标业务标识确定并获取目标数据源中的目标业务数据;
计算模块,被配置为将所述目标业务数据存入所述服务节点的磁盘空间,计算所述服务节点的当前磁盘空间利用率并获取预设磁盘空间利用率,其中,所述预设磁盘空间利用率根据历史业务数据获取请求确定;
调整模块,被配置为在所述当前磁盘空间利用率大于所述预设磁盘空间利用率的情况下,根据预设的磁盘空间调整策略调整所述服务节点的磁盘空间。
根据本申请实施例的第三方面,提供了一种计算设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机指令,所述处理器执行所述指令时实现所述数据处理方法的步骤。
根据本申请实施例的第四方面,提供了一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现所述数据处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海哔哩哔哩科技有限公司,未经上海哔哩哔哩科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110688648.2/2.html,转载请声明来源钻瓜专利网。