[发明专利]一种写入图片数据方法和分布式NewSQL数据库系统有效
申请号: | 201710581229.2 | 申请日: | 2017-07-17 |
公开(公告)号: | CN107491345B | 公开(公告)日: | 2020-08-04 |
发明(设计)人: | 晋彤 | 申请(专利权)人: | 云润大数据服务有限公司 |
主分类号: | G06F9/46 | 分类号: | G06F9/46;G06F9/50;G06F16/22;G06F16/242 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 梁顺宜;郝传鑫 |
地址: | 510000 广东省广州市天*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 写入 图片 数据 方法 分布式 newsql 数据库 系统 | ||
1.一种写入图片数据的方法,其特征在于,适用于分布式NewSQL数据库系统,包括:
以JDCB/ODBC的接口方式接入用户请求,将所述用户请求转化SQL语句形式的SQL请求;其中,所述用户请求包括需要写入的图片数据;
判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句,若是,则输出相对应的所述预存SQL语句对应的执行计划,若否,则,
对所述SQL请求进行语法检查,若语法错误返回错误信息给用户,否则,
对所述SQL请求进行语义检查,若语义错误返回错误信息给用户,否则,
对所述SQL请求进行视图以及表达式转换,获得对应的转化结果;
根据所述转换结果选择优化器,获得对应的优化器选择结果;
根据所述优化器选择结果选择对应的数据连接方式以及连接顺序;
根据连接方式和连接顺序选择搜索的路径;
根据搜索路径生成执行计划,并输出执行计划;
根据执行计划,将所述图片数据生成MD5,将所述MD5写入原始数据表;同时,将所述图片数据写入图片数据表中;
将所述图片数据完成写入的处理结果返回用户。
2.一种分布式NewSQL数据库系统,其特征在于,包括:
JDCB/ODBC接口单元,用于与用户进行交互操作,包括接收用户请求,返回处理结果;以及将所述用户请求转化SQL语句形式的SQL请求;其中,所述用户请求包括需要写入的图片数据;所述处理结果为图片数据已写入的处理结果;
master单元,用于接入JDCB/ODBC接口单元所接入的用户请求,并协调多个处理器之间的数据通讯以及管理整体流程,并将所述用户请求优先发送给SQLPlaner单元;master单元还用于将图片数据已写入的处理结果返回JDCB/ODBC接口单元;
SQLPlaner单元,用于判断共享缓存池中是否存在与所述SQL请求相对应的预存SQL语句,若是,则输出相对应的所述预存SQL语句对应的执行计划,若否,则,对所述SQL请求进行语法检查,若语法错误返回错误信息给用户,否则,对所述SQL请求进行语义检查,若语义错误返回错误信息给用户,否则,对所述SQL请求进行视图以及表达式转换,获得对应的转化结果;根据所述转换结果选择优化器,获得对应的优化器选择结果;根据所述优化器选择结果选择对应的数据连接方式以及连接顺序;根据连接方式和连接顺序选择搜索的路径;根据搜索路径生成执行计划,并输出执行计划;
worker单元,用于并行地执行所述计划,包括:根据执行计划,将所述需要写入的图片数据生成MD5,将所述MD5写入原始数据表;同时,将所述图片数据写入图片数据表中;还用于将Hbase单元的处理结果返回至所述master单元;
Hbase单元,用于储存所述原始数据表和所述图片数据表,其中,Hbase单元的底层增加LOB类型;
分布式事务管理器,用于当所述worker单元执行计划涉及事务时,协调多方完成分布式事务管理。
3.如权利要求2所述的一种分布式NewSQL数据库系统,其特征在于,还包括:
监视器,用于负责元数据管理,监控所述Hbase单元的Region的负载,以及通过所述Hbase单元的coprocessor模块重新分配Region;所述监视器与所述master单元连接。
4.如权利要求3所述的一种分布式NewSQL数据库系统,其特征在于,所述监控所述Hbase单元的Region的负载,以及通过所述Hbase单元的coprocessor模块重新分配Region包括:
接收所述Hbase单元的数据分布信息,接收所述master单元中的所述worker单元的负载信息,其中,所述负载信息包括所述worker单元的负载偏差值;
将所述worker单元的负载偏差值与预设负载偏差阈值进行比较,若判定所述负载偏差值超过阀值,触发所述Hbase单元将命中率较高服务器上的Region和命中率较低服务器上的Region进行从新分配;
获取每一Region的数据量,将每一所述Region的数据量与预设数据量阈值进行判断,若判定所述Region的数据量超过阀值,触发所述Hbase单元将超过预设数据量阈值的所述Region切分成两个。
5.如权利要求4所述的一种分布式NewSQL数据库系统,其特征在于,所述JDCB/ODBC接口单元包括:
JDBC应用程序模块,用于接收用户请求,以及调用JDBC对象方法以给出SQL语句,并用于提取结果返回用户;
JDBC驱动程序管理器模块,用于为所述JDBC应用程序模块加载和调用JDBC驱动程序模块;
JDBC驱动程序模块,用于执行所述JDBC对象方法的调用,发送用户请求所对应的SQL语句给底层的数据库,并将从所述底层的数据库获得的结果返回给JDBC应用程序模块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于云润大数据服务有限公司,未经云润大数据服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710581229.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置