[发明专利]一种用于对大数据进行处理的方法及系统在审
申请号: | 201911408437.8 | 申请日: | 2019-12-31 |
公开(公告)号: | CN111309724A | 公开(公告)日: | 2020-06-19 |
发明(设计)人: | 高鹏 | 申请(专利权)人: | 航天信息股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2455 |
代理公司: | 北京工信联合知识产权代理有限公司 11266 | 代理人: | 白晓晰 |
地址: | 100195 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 数据 进行 处理 方法 系统 | ||
1.一种用于对大数据进行处理的方法,所述方法包括:
按预先设置的切分单位对数据库进行数据库分表处理,将数据库中的数据按所述预先设置的切分单位对数据库进行分表,将数据库中的数据按照切分单位分别存储于对应的数据库分表中;
设置数据库的缓存区,所述数据库的缓存区用于存储预定时间区间内的所有单位的数据库分表中的数据;
根据用户对指定单位的数据查询请求,判断所述缓存区中是否存储所述指定单位的数据,当所述缓存区中存储所述指定单位的数据时,直接从所述缓存区中调用所述指定单位的数据,获取指定单位的数据调用结果;
当所述缓存区中未存储所述指定单位的数据时,通过所述指定单位对应的数据分表调用所述指定单位的数据,获取指定单位的数据调用结果。
2.根据权利要求1所述的方法,所述设置数据库的缓存区,所述数据库的缓存区用于存储预定时间区间内的所有单位的数据库分表中的数据,还包括:
利用远程字典服务Redis对预定时间区间内的所有单位的数据库分表中的数据进行缓存。
3.根据权利要求1所述的方法,还包括:
对获取的指定单位的数据调用结果进行缓存。
4.根据权利要求3所述的方法,还包括:对获取的指定单位的数据调用结果以哈希hash散列的形式进行缓存。
5.根据权利要求1所述的方法,还包括:
对数据库分表添加单位编码标识;
当有新增加数据时,按照新增加数据的所属单位的单位编码标识,查找与所属单位对应的数据库分表,将新添加数据添加到对应的数据库分表中。
6.一种用于对大数据进行处理的系统,所述系统包括:
初始单元,用于按预先设置的切分单位对数据库进行数据库分表处理,将数据库中的数据按所述预先设置的切分单位对数据库进行分表,将数据库中的数据按照切分单位分别存储于对应的数据库分表中;
设置单元,用于设置数据库的缓存区,所述数据库的缓存区用于存储预定时间区间内的所有单位的数据库分表中的数据;
第一调用单元,用于根据用户对指定单位的数据查询请求,判断所述缓存区中是否存储所述指定单位的数据,当所述缓存区中存储所述指定单位的数据时,直接从所述缓存区中调用所述指定单位的数据,获取指定单位的数据调用结果;
第二调用单元,用于当所述缓存区中未存储所述指定单位的数据时,通过所述指定单位对应的数据分表调用所述指定单位的数据,获取指定单位的数据调用结果。
7.根据权利要求6所述的系统,所述设置单元用于设置数据库的缓存区,所述数据库的缓存区用于存储预定时间区间内的所有单位的数据库分表中的数据,还用于:
利用远程字典服务Redis对预定时间区间内的所有单位的数据库分表中的数据进行缓存。
8.根据权利要求6所述的系统,还包括存储单元,用于:
对获取的指定单位的数据调用结果进行缓存。
9.根据权利要求8所述的系统,所述存储单元还用于:对获取的指定单位的数据调用结果以哈希hash散列的形式进行缓存。
10.根据权利要求6所述的系统,还包括:
初始单元,还用于对数据库分表添加单位编码标识;
更新单元,用于当有新增加数据时,按照新增加数据的所属单位的单位编码标识,查找与所属单位对应的数据库分表,将新添加数据添加到对应的数据库分表中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于航天信息股份有限公司,未经航天信息股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911408437.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种智能化图书馆辅助管理系统
- 下一篇:巧克力包衣蜂蜜药膳
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置