[发明专利]从关系型数据库到HBase数据库的数据流迁移方法在审
申请号: | 201811012560.3 | 申请日: | 2018-08-31 |
公开(公告)号: | CN109299068A | 公开(公告)日: | 2019-02-01 |
发明(设计)人: | 邓惠元;范联伟;余保华;徐圣吉;刘春珲;李贤军;胡鸿超;金文林;吴婷婷;徐剑;张国林;张金国;展昭;何宽宽;杨培韬 | 申请(专利权)人: | 安徽四创电子股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/2455;G06F16/25 |
代理公司: | 合肥和瑞知识产权代理事务所(普通合伙) 34118 | 代理人: | 王挺 |
地址: | 230088 安徽省合肥*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种从关系型数据库到HBase数据库的数据流迁移方法,包括如下步骤:设置ETL工具的ExecuteSQL处理器的连接属性,将ExecuteSQL处理器与关系型数据库创建连接服务;通过ConvertAvroToJSON处理器将Avro格式的数据表转换为JSON格式的数据表;通过ConvertJSONToSQL处理器将Json格式的数据表转换为标准关系型数据库格式的数据表;通过ReplaceText处理器将标准关系型数据库格式的数据表转换为HBase数据库格式的数据表;通过PutSQL处理器将HBase数据库格式的数据表存储在HBase数据库中。本发明全程可视化操作、过程可控性强,且数据流迁移的错误率较低。 | ||
搜索关键词: | 处理器 数据库格式 关系型数据库 数据表转换 数据流迁移 数据库 标准关系 可视化操作 数据表存储 创建连接 连接属性 错误率 可控性 全程 服务 | ||
【主权项】:
1.一种从关系型数据库到HBase数据库的数据流迁移方法,其特征在于,包括如下步骤:S1,设置ETL工具的ExecuteSQL处理器的连接属性,将ExecuteSQL处理器与关系型数据库创建连接服务,ExecuteSQL处理器进而查询并获取到关系型数据库中的Avro格式的数据表;S2,通过ConvertAvroToJSON处理器将所述Avro格式的数据表转换为JSON格式的数据表;S3,通过ConvertJSONToSQL处理器将Json格式的数据表转换为标准关系型数据库格式的数据表;S4,通过ReplaceText处理器将标准关系型数据库格式的数据表转换为HBase数据库格式的数据表;S5,通过PutSQL处理器将HBase数据库格式的数据表存储在HBase数据库中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽四创电子股份有限公司,未经安徽四创电子股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811012560.3/,转载请声明来源钻瓜专利网。