[发明专利]一种提升数据库数据校验效率的系统及方法在审
申请号: | 202111615613.2 | 申请日: | 2021-12-27 |
公开(公告)号: | CN114490115A | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 陈俊杰;赵倩 | 申请(专利权)人: | 南京旭航信息科技有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F9/50;G06F16/21 |
代理公司: | 南京新众合专利代理事务所(普通合伙) 32534 | 代理人: | 王子瑜 |
地址: | 210000 江苏省南京市雨花*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 提升 数据库 数据 校验 效率 系统 方法 | ||
1.一种提升数据库数据校验效率的系统,其特征在于,包括:
数据管理模块,接收数据,并且对不同的数据进行管理分类;
数据传输模块,将多个传输相同数据的请求合并为多播请求进行传输;
RPC处理模块,通过源节点字段和目标节点字段进行请求识别,从而判断该节点是否需要进行处理;
数据校验模块,数据节点通过RPC处理模块处理后,可对崩溃的数据节点进行标记校验;
数据存储模块,对RPC处理模块处理完成以及数据校验模块校验完成的数据节点进行区别储存。
2.根据权利要求1所述的一种提升数据库数据校验效率的系统,其特征在于,所述数据传输模块会申请发送结构体,并根据写请求对应的数据地址和数据大小等元数据信息填写结构体的头部字段,同时将数据放入发送结构体的数据字段,然后数据传输模块会将传输信息添加到填写完毕的发送结构体中,并将其打包成工作请求放人发送队列进行传输,网卡依次对工作请求进行处理,将数据以数据报的形式发送到各个目标数据节点,由数据节点中的接收处理程序进行处理并写入持久内存,当发送操作完成之后,元数据节点会触发中断通知发送完成处理程序,将工作完成从完成队列中移出,从中获取已完成的发送结构体地址并将对应空间释放回收。
3.根据权利要求1所述的一种提升数据库数据校验效率的系统,其特征在于,所述RPC处理模块通过源节点字段和目标节点字段进行请求识别,从而判断该节点是否需要进行处理.由于RPC采用多播通信机制实现,多播组中的所有数据节点均可以接收到元数据节点的请求,为增强RPC的灵活性,请求头部标识了源节点与目标节点,数据节点收到请求后首先判断该节点是否需要执行操作,从而避免冗余的请求对数据节点资源的占用。
4.根据权利要求1所述的一种提升数据库数据校验效率的系统,其特征在于,所述数据校验模块会将该崩溃后的数据节点标记成为故障节点,该请求将被分流到其他数据节点执行,不会影响系统正常运行,该数据节点中的数据可以通过元数据节点进行恢复,元数据节点崩溃时,系统停止提供服务,等待元数据节点重启,并通过文件的元数据,将系统恢复到崩溃前的状态。
5.根据权利要求1所述的一种提升数据库数据校验效率的系统,其特征在于,所述数据管理模块可根据数据的不同传输来源进行管理分类,并且通过统一的文件名格式保证数据缓存功能可以进行统一处理,对于接收到的数据节点,可保证用户下载缓存数据的效率。
6.根据权利要求1所述的一种提升数据库数据校验效率的系统,其特征在于,所述数据存储模块可对RPC处理模块处理后处理无误的数据节点,以及对RPC处理模块处理后有误的数据节点进行区别储存,所述数据管理模块包括数据缓存数据信息记录单元和缓存数据信息处理单元。
7.一种提升数据库数据校验效率的方法,其特征在于,包括以下步骤:
1)应用程序通过数据管理模块对可移植操作系统接口对文件系统进行访问以数据写入,并且对不同传输来源的数据进行管理分类;
2)当应用程序发起数据写入请求时,通过访问元数据节点在各目标数据节点分配持久性内存空间,然后将数据写入到各数据节点中;
3)待写入的数据通过数据传输模块以数据报的形式由网卡发出,网络交换机收到多播数据报时,会进行分发操作,将数据报发送到多播组中的每个数据节点;
4)数据节点通过RPC处理模块识别数据报请求体,并通过数据一致性保障模块将数据持久化到持久性内存与此同时,元数据节点会提交该次数据写入操作并返回用户;
5)文件系统的元数据访问则仅通过元数据节点进行,无需对数据节点进行远程访问。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京旭航信息科技有限公司,未经南京旭航信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111615613.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种心电图信号采集电路
- 下一篇:一种模拟风雨环境侵蚀足尺试样的试验舱体
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置