[发明专利]一种数据写入方法、装置及计算机设备有效
申请号: | 202010926671.6 | 申请日: | 2020-09-04 |
公开(公告)号: | CN112084163B | 公开(公告)日: | 2022-05-31 |
发明(设计)人: | 邓练兵;方家钦;卢振兴 | 申请(专利权)人: | 珠海大横琴科技发展有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/172;G06F9/54 |
代理公司: | 北京三聚阳光知识产权代理有限公司 11250 | 代理人: | 秦广成 |
地址: | 519000 广东省珠海市横琴新*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 写入 方法 装置 计算机 设备 | ||
1.一种数据写入方法,其特征在于,包括如下步骤:
当接收到待写入数据,根据所述待写入数据发起写入请求,所述写入请求包括所述待写入数据;
根据所述写入请求将所述待写入数据写入到缓存器中;
确定在达到预设间隔时长时所述缓存器中暂存数据的数量;
当所述缓存器中暂存数据的数量大于或等于预设阈值时,将所述待写入数据写入HBase;
所述方法还包括:
当所述缓存器中暂存数据的数量小于所述预设阈值时,实时监测所述缓存器中暂存数据的数量;
当达到第三预设间隔时长且所述暂存数据的数量小于所述预设阈值,将所述待写入数据写入HBase;
在所述当接收到待写入数据,根据所述待写入数据发起写入请求之前,还包括:
向协调服务器发送第一访问请求,所述第一访问请求用于访问meta表的位置信息;
接收所述协调服务器发送的所述meta表的位置信息;
根据所述meta表的位置信息向HBase服务器发送第二访问请求,所述第二访问请求用于读取meta表的元数据信息;
根据所述元数据信息确定所述待写入数据对应的存储位置信息。
2.根据权利要求1所述的方法,其特征在于,所述缓存器包括第一子缓存器和第二子缓存器,所述第二子缓存器存储容量大于所述第一子缓存器,所述根据所述写入请求将所述待写入数据写入到缓存器中包括:
当所述待写入数据的大小在预设范围内时,根据所述写入请求将所述待写入数据写入到所述第一子缓存器中;
当所述待写入数据的大小超过所述预设范围时,根据所述写入请求将所述待写入数据写入到所述第二子缓存器中。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
确定在达到第一预设间隔时长时所述第一子缓存器中暂存数据的数量;
当所述第一子缓存器中暂存数据的数量大于或等于第一预设阈值时,将所述待写入数据写入HBase。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
确定在达到第二预设间隔时长时所述第二子缓存器中暂存数据的数量;
当所述第二子缓存器中暂存数据的数量大于或等于第二预设阈值时,将所述待写入数据写入HBase,所述第二预设阈值大于所述第一预设阈值。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述缓存器中暂存数据的数量小于所述预设阈值时,实时监测所述缓存器中暂存数据的数量,直到所述暂存数据的数量大于或等于预设阈值,将所述待写入数据写入HBase。
6.一种数据写入装置,其特征在于,包括:
发起模块,用于当接收到待写入数据,根据所述待写入数据发起写入请求,所述写入请求包括所述待写入数据;
第一写入模块,用于根据所述写入请求将所述待写入数据写入到缓存器中;
第一确定模块,用于确定在达到预设间隔时长时所述缓存器中暂存数据的数量;
第二写入模块,用于当所述缓存器中暂存数据的数量大于或等于预设阈值时,将所述待写入数据写入HBase;
该数据写入装置还包括:
第二监测模块,用于当所述缓存器中暂存数据的数量小于所述预设阈值时,实时监测所述缓存器中暂存数据的数量;
第五写入模块,用于当达到第三预设间隔时长且所述暂存数据的数量小于所述预设阈值,将所述待写入数据写入HBase;
还包括:
第一发送模块,用于向协调服务器发送第一访问请求,第一访问请求用于访问meta表的位置信息;
接收模块,用于接收协调服务器发送的meta表的位置信息;
第二发送模块,用于根据meta表的位置信息向HBase服务器发送第二访问请求,第二访问请求用于读取meta表的元数据信息;
第三确定模块,用于根据元数据信息确定待写入数据对应的存储位置信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于珠海大横琴科技发展有限公司,未经珠海大横琴科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010926671.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置